Diskussion zum Artikel "Neuronale Netze im Handel: Parametereffizienter Transformer mit segmentierter Aufmerksamkeit (letzter Teil)"

[MetaQuotes]

Neuer Artikel Neuronale Netze im Handel: Parametereffizienter Transformer mit segmentierter Aufmerksamkeit (letzter Teil) :

In der vorangegangenen Arbeit haben wir die theoretischen Aspekte des PSformer-Rahmens erörtert, der zwei wichtige Neuerungen in der klassischen Transformer-Architektur beinhaltet: den Parameter-Shared (PS)-Mechanismus und die Berücksichtigung von räumlich-zeitlichen Segmenten (SegAtt). In diesem Artikel setzen wir die Arbeit fort, die wir bei der Implementierung der vorgeschlagenen Ansätze mit MQL5 begonnen haben.

Im vorigen Artikel haben wir die theoretischen Aspekte der PSformer untersucht, die zwei wichtige Neuerungen in der Architektur des einfachen Transformers einführt: den Mechanismus der gemeinsamen Nutzung von Parametern (PS) und die räumlich-zeitliche segmentierte Aufmerksamkeit (SegAtt).

Die Autoren von PSformer haben einen Encoder vorgeschlagen, der auf der Architektur des Transformers basiert und eine zweistufige segmentierte Aufmerksamkeitsstruktur aufweist. Jede Ebene umfasst einen Block zur gemeinsamen Nutzung von Parametern, der aus drei vollständig verbundenen Schichten mit Residualverbindungen besteht. Durch diese Architektur wird die Gesamtzahl der Parameter reduziert und gleichzeitig ein effektiver Informationsaustausch innerhalb des Modells gewährleistet.

Die Segmente werden mit einer Patching-Methode erzeugt, bei der die Zeitreihenvariablen in Patches unterteilt werden. Patches mit derselben Position in verschiedenen Variablen werden zu Segmenten zusammengefasst, die eine räumliche Ausdehnung eines Patch mit einer einzigen Variable darstellen. Diese Segmentierung ermöglicht eine effiziente Organisation von mehrdimensionalen Zeitreihen in mehrere Segmente.

Innerhalb jedes Segments liegt der Schwerpunkt auf der Ermittlung lokaler räumlich-zeitlicher Beziehungen, während die Integration von Informationen zwischen den Segmenten die Gesamtqualität der Vorhersage verbessert.

Autor: Dmitriy Gizlyk

[FSAmasterAccount]

Ich habe Fehler in der Datei math.math/mqh erhalten. Wenn es irgendwelche Lösungen für dieses Problem gibt, wäre ich Ihnen sehr dankbar.

[Dmitriy Gizlyk]

FSAmasterAccount , MathPow durch ::MathPow. Dies ermöglicht Ihnen den Zugriff auf Compiler-Funktionen und nicht auf die in der Klasse deklarierten Funktionen.