Diskussion zum Artikel "Neuronale Netze im Handel: Erforschen lokaler Datenstrukturen"

 

Neuer Artikel Neuronale Netze im Handel: Erforschen lokaler Datenstrukturen :

Die effektive Identifizierung und Erhaltung der lokalen Struktur von Marktdaten unter verrauschten Bedingungen ist eine wichtige Aufgabe im Handel. Die Verwendung des Mechanismus der Selbstaufmerksamkeit hat vielversprechende Ergebnisse bei der Verarbeitung solcher Daten gezeigt; der klassische Ansatz berücksichtigt jedoch nicht die lokalen Merkmale der zugrunde liegenden Struktur. In diesem Artikel stelle ich einen Algorithmus vor, der diese strukturellen Abhängigkeiten berücksichtigen kann.

Der Transformer hat seine Wirksamkeit bei der Bewältigung verschiedener Aufgaben bewiesen. Im Vergleich zur Faltung kann der Mechanismus der Selbstaufmerksamkeit (Self-Attention) verrauschte oder irrelevante Punkte adaptiv herausfiltern. Dennoch wendet der pure Transformer auf alle Elemente einer Sequenz die gleiche Transformationsfunktion an. Bei diesem isotropen Ansatz werden räumliche Beziehungen und lokale Strukturinformationen wie Richtung und Entfernung von einem zentralen Punkt zu seinen Nachbarn nicht berücksichtigt. Wenn die Positionen der Punkte neu angeordnet werden, bleibt das Ergebnis des Transformers unverändert. Dies erschwert die Erkennung der Richtungsabhängigkeit von Objekten, die für die Erkennung von Preismustern entscheidend ist.

Die Autoren des Artikels „SEFormer: Structure Embedding Transformer for 3D Object Detection“ zielten darauf ab, die Stärken beider Ansätze zu kombinieren, indem eine neue Transformer-Architektur entwickelt wurde - Structure-Embedding transFormer (SEFormer), das in der Lage ist, lokale Strukturen unter Berücksichtigung von Richtung und Entfernung zu kodieren. Der vorgeschlagene SEFormer lernt verschiedene Transformationen für Value (Wert) der Punkte aus unterschiedlichen Richtungen und Entfernungen. Folglich spiegeln sich Änderungen in der lokalen räumlichen Struktur in der Ausgabe des Modells wider, was einen Schlüssel zur genauen Erkennung der Objektrichtung darstellt.


Autor: Dmitriy Gizlyk

 
Schöner Artikel
 
Arda Kaya #:
Schöner Artikel

Danke!