Discussão do artigo "Adicionando um LLM personalizado a um robô investidor (Parte 5): Desenvolvimento e teste de uma estratégia de trading com LLM (II) - Configuração do LoRA"

 

Novo artigo Adicionando um LLM personalizado a um robô investidor (Parte 5): Desenvolvimento e teste de uma estratégia de trading com LLM (II) - Configuração do LoRA foi publicado:

Os modelos de linguagem (LLMs) são uma parte importante da inteligência artificial que evolui rapidamente. E para aproveitar isso devemos pensar em como integrar LLMs avançados em nossa negociação algorítmica. Muitos acham desafiador ajustar esses modelos de acordo com suas necessidades, implantá-los localmente e, logo, aplicá-los à negociação algorítmica. Esta série de artigos explorará uma abordagem passo a passo para alcançar esse objetivo.

No artigo anterior, mostramos como realizar o ajuste fino completo de um modelo GPT-2 pré-treinado com os nossos próprios dados financeiros e avaliamos os resultados gerados pelo modelo. Neste e nos próximos artigos, aprofundaremos a implementação de outros métodos de ajuste fino, apresentando exemplos de código (abordaremos apenas os métodos apresentados no artigo anterior, pois implementar todos seria inviável. Escolheremos apenas alguns dos métodos mais utilizados para implementar). Neste artigo, usaremos o método LoRA como exemplo.

Além disso, temos o desafio de comparar horizontalmente os modelos treinados com esses diferentes métodos de ajuste fino e, então, identificar o modelo mais eficaz para o par de moedas atual (é claro que a eficácia do modelo também pode variar de acordo con las condiciones de mercado, como tendência de alta, tendência de baixa ou mercado lateral). Isso pode nos dar uma indicação mais clara sobre qual método de treinamento de modelo usar na prática para obter os melhores resultados. Naturalmente, numa abordagem mais rigorosa, deveríamos não apenas comparar horizontalmente esses diferentes métodos de treinamento, mas também comparar o desempenho de modelos ajustados para diferentes pares de moedas, usando diferentes métodos de tratamento de dados e de ajuste fino. Embora pareça uma tarefa simples, é extremamente trabalhosa. Pessoalmente, considero que, se quisermos aplicar essa série de métodos à negociação, esse passo é imprescindível. Porém, não pretendo me aprofundar nesse ponto nesta série de artigos, pois acredito que qualquer pessoa pode facilmente expandir essa funcionalidade com base em nossos exemplos. Basta substituir os dados de treinamento por outros pares de moedas e, depois, comparar horizontalmente a eficácia do modelo. É um trabalho meticuloso, mas não difícil.

 


Autor: Yuqiang Pan