Diskussion zum Artikel "Neuronale Netze leicht gemacht (Teil 37): Sparse Attention (Verringerte Aufmerksamkeit)"

 

Neuer Artikel Neuronale Netze leicht gemacht (Teil 37): Sparse Attention (Verringerte Aufmerksamkeit) :

Im vorigen Artikel haben wir relationale Modelle erörtert, die in ihrer Architektur Aufmerksamkeitsmechanismen verwenden. Eines der besonderen Merkmale dieser Modelle ist die intensive Nutzung von Computerressourcen. In diesem Artikel wird einer der Mechanismen zur Verringerung der Anzahl von Rechenoperationen innerhalb des Self-Attention-Blocks betrachtet. Dadurch wird die allgemeine Leistung des Modells erhöht.

Wir haben das Modell trainiert und den EA mit historischen EURUSD H1-Daten für März 2023 getestet. Während des Lernprozesses zeigte der EA während der Testphase Gewinne. Der Gewinn wurde jedoch erzielt, weil der Umfang der durchschnittlichen Ergebnisse der Positionen mit Gewinn größer war als der mit Verlust. Die Anzahl der Gewinner und Verlierer war jedoch ungefähr gleich. Infolgedessen lag der Gewinnfaktor (profit factor) bei 1,12 und der Erholungsfaktor (recovery factor) bei 1,01.

Test-Diagramm

Tabelle der Prüfergebnisse


Autor: Dmitriy Gizlyk

 
Könnte die von mir verwendete Hardware die Ursache für den Fehler sein?
 
Es scheint mit Nvidia Grafikkarten nicht zu funktionieren, da ich den gleichen Fehler mit verschiedenen RTX A Grafikkarten habe.
 

Ich stoße auf den folgenden Fehler

2023.04.12 07:35:20.755 Core 01 2023.03.01 00:00:00 ungültiger Zeigerzugriff in 'NeuroNet.mqh' (2913,18)
2023.04.12 07:35:20.755 Core 01 OnInit kritischer Fehler
2023.04.12 07:35:20.755 Core 01 Tester angehalten, weil OnInit fehlgeschlagen ist

Intel UHD 730
Metatrader build 3661


 
Dieser Fehler wird durch die Tatsache verursacht, dass Ihr Grafikprozessor fp64 nicht unterstützt, wie Sie in Ihrem Fehlerprotokoll sehen können
 

Was ist mein Grund?

2023.04.13 11:46:35.381 Core 1 2023.01.02 12:00:00 Fehler bei der Ausführung Kernel bool CNeuronMLMHAttentionOCL::SumAndNormilize(CBufferFloat*,CBufferFloat*,CBufferFloat*) MatrixSum: unbekannter OpenCL-Fehler 132640


 
Wenn Sie eine Nvidia GPU verwenden, ist dies wahrscheinlich der Grund, leider hat der Autor bisher keine Nvidia GPU und ist daher nicht in der Lage, diesen Fehler zu beheben, auf seiner GPU scheint der Code zu funktionieren.
 
star-ik #:

Was ist mein Grund?

2023.04.13 11:46:35.381 Core 1 2023.01.02 12:00:00 Fehler bei der Ausführung Kernel bool CNeuronMLMHAttentionOCL::SumAndNormilize(CBufferFloat*,CBufferFloat*,CBufferFloat*) MatrixSum: unbekannter OpenCL-Fehler 132640


Versuchen Sie, diese Bibliothek zu verwenden

Dateien:
NeuroNet.mqh  844 kb