Diskussion zum Artikel "Neuronale Netze im Trading: Effektive Merkmalsextraktion für präzise Klassifizierung (Mantis)"

 

Neuer Artikel Neuronale Netze im Trading: Effektive Merkmalsextraktion für präzise Klassifizierung (Mantis) :

Lernen Sie Mantis kennen – ein leichtgewichtiges Foundation-Model für die Zeitreihenklassifizierung auf Basis einer Transformer-Architektur mit kontrastivem Vortraining und einem hybriden Attention-Mechanismus, der eine rekordverdächtige Genauigkeit und hohe Skalierbarkeit ermöglicht.

Das Mantis-Framework zeigt, wie eine durchdachte Architektur und ein gründliches Training eine Reihe von Ideen in ein zuverlässiges Werkzeug verwandeln können. Der von den Autoren des Frameworks vorgestellte Grundlagen-Ansatz beruht auf vier Hauptpfeilern: Zeitreihen-Tokenisierung, hybride Attention, Adapter für Multidimensionalität sowie selbstüberwachtes kontrastives Vortraining mit anschließender Kalibrierung.

Die Grundidee hinter Mantis besteht darin, sich von der traditionellen Praxis zu lösen, eine Zeitreihe in feste Fenster zu unterteilen. Stattdessen wird die Sequenz in eine feste Anzahl von Patches unterteilt, was die Unabhängigkeit von der Länge der Eingabesequenz gewährleistet und den Rechenaufwand stabilisiert. Beispielsweise werden Reihen der Längen 1024 und 2048 in die gleiche Anzahl von Patches umgewandelt – 32. Dieser Ansatz ist für die Massenverarbeitung heterogener Zeitreihen von entscheidender Bedeutung.

Das Embedding wird in mehreren Stufen gebildet. Zunächst wird eine Faltungsschicht mit 256 Ausgangskanälen angewendet. Diese Schicht transformiert die Zeitreihe in eine kompaktere räumliche Repräsentation. Anschließend wird jedes der 32 Patches mittels Mean Pooling aggregiert, was zu einem Tensor der Dimension (32, 256) führt. Jeder Patch kodiert die lokalen Merkmale der Zeitreihe, einschließlich Spitzen, Schwankungen und der Mikrostruktur von Preisbewegungen.

Parallel dazu wird ein zweiter Datenstrom erstellt – der Differenzstrom. Er basiert auf den ersten Differenzen zwischen benachbarten Werten in der Zeitreihe. Diese Transformation hilft dabei, langfristige Trends zu eliminieren und Signale zu verstärken, die sich auf kurzfristige Dynamiken beziehen. Sie ist besonders nützlich in Situationen, in denen Abweichungen von einem stabilen Niveau oder scharfe Bewegungen in der Nähe von Unterstützungs- und Widerstandsniveaus von Interesse sind.

Beide Ströme durchlaufen dieselben Verarbeitungsschritte: Faltungsschicht, Mittelung und Normalisierung. Das Ergebnis sind zwei Sätze von Patches, die jeweils 32 Token der Dimension 256 enthalten. Dies versorgt das Modell mit ausgewogenen Informationen sowohl über die Signalform als auch über deren zeitliche Veränderungen.


Autor: Dmitriy Gizlyk