Diskussion zum Artikel "Integrieren Sie Ihr eigenes LLM in EA (Teil 5): Handelsstrategie mit LLMs(II)-LoRA-Tuning entwickeln und testen"

 

Neuer Artikel Integrieren Sie Ihr eigenes LLM in EA (Teil 5): Handelsstrategie mit LLMs(II)-LoRA-Tuning entwickeln und testen :

Angesichts der rasanten Entwicklung der künstlichen Intelligenz sind Sprachmodelle (language models, LLMs) heute ein wichtiger Bestandteil der künstlichen Intelligenz, sodass wir darüber nachdenken sollten, wie wir leistungsstarke LLMs in unseren algorithmischen Handel integrieren können. Für die meisten Menschen ist es schwierig, diese leistungsstarken Modelle auf ihre Bedürfnisse abzustimmen, sie lokal einzusetzen und sie dann auf den algorithmischen Handel anzuwenden. In dieser Artikelserie werden wir Schritt für Schritt vorgehen, um dieses Ziel zu erreichen.

Im vorangegangenen Artikel haben wir die Feinabstimmung des vortrainierten GPT-2-Modells anhand unserer eigenen Finanzdaten mit einer Vollparameter-Feinabstimmungsmethode vorgestellt und die Ausgabeergebnisse des Modells bewertet. In diesem und den folgenden Artikeln werden wir anhand von Code-Beispielen erörtern, wie andere Feinabstimmungsmethoden implementiert werden können (wir werden nur die im vorherigen Artikel vorgestellten Feinabstimmungsmethoden erörtern, und natürlich ist es unmöglich, jede Methode zu implementieren. Ich werde nur einige häufig verwendete Methoden zur Umsetzung auswählen). In diesem Artikel wird die LoRA-Tuning-Methode als Beispiel für die Diskussion herangezogen.

Außerdem müssen wir versuchen, die mit diesen verschiedenen Feinabstimmungsmethoden trainierten Modelle horizontal zu vergleichen und dann das Modell mit der besten Leistung für das aktuelle Währungspaar zu finden (natürlich kann die Leistung des Modells auch unter verschiedenen Marktbedingungen variieren, z. B. bei Aufwärtstrends, Abwärtstrends oder schwankenden Trends). Dies kann uns einen klareren Hinweis darauf geben, welche Methode der Modelltraining wir in der Praxis anwenden sollten, um bessere Ergebnisse zu erzielen. Wenn wir strenger sind, sollten wir natürlich nicht nur diese verschiedenen Verarbeitungsmethoden horizontal vergleichen, sondern auch die Leistung der Feinabstimmungsmodelle verschiedener Währungspaare unter verschiedenen Datenverarbeitungsmethoden und Feinabstimmungsmethoden vergleichen. Dies scheint eine einfache, aber äußerst mühsame Aufgabe zu sein. Ich persönlich glaube, dass dieser Schritt von entscheidender Bedeutung ist, wenn wir diese Reihe von Methoden im Handel wirklich anwenden wollen. Ich habe jedoch nicht die Absicht, diesen Teil in dieser Artikelserie im Detail vorzustellen, weil ich glaube, dass jeder anhand unserer Beispiele leicht erweitern kann. Ersetzen Sie einfach die Trainingsdaten durch verschiedene Währungspaare und vergleichen Sie dann die Modellleistung horizontal. Dies ist zwar mühsam, aber leicht zu bewerkstelligen.

Autor: Yuqiang Pan