Discussão do artigo "Integração rápida de um grande modelo de linguagem com o MetaTrader 5 (Parte I): Criando o modelo"
E como filtrar as alucinações? Até mesmo o Googlebot, em suas respostas, frequentemente troca “sim” por “não” (como se ignorasse a negação em frases do tipo “o recurso não é compatível” nos documentos originais e construísse a resposta com base na lógica de que “o recurso é compatível”), pega as características de um objeto diferente daquele sobre o qual você está perguntando, etc. Cada palavra da resposta precisa ser verificada nas fontes originais — felizmente, elas estão disponíveis lá.
Comecei a desenvolver esse tema há pouco tempo. Estou programando a API da OpenAI em MQL5 puro. E o servidor para o modelo é o llama.cpp.
É preciso dar ao modelo instruções matematicamente precisas ao máximo, exigir respostas claras, sem enrolação. Reduzir a temperatura ao mínimo (0–0,2) para que ele não invente coisas. Escolher os modelos locais maiores possíveis que o sistema consiga suportar (na minha VRAM de 12 Gb — até 15B, e com uma pequena lentidão — até 30B). Teste e escolha o melhor (e há muitos deles). Enquanto você faz isso, os modelos evoluem, e surgem modelos pequenos e inteligentes. Depois, é possível treinar o modelo posteriormente (LoRA). Se, Deus me livre, surgir a suspeita de que o projeto seja potencialmente lucrativo, dá para migrar para grandes modelos online pagos. Ou, pelo menos, fazer um upgrade no computador para 2 GPUs com 24 Gb e muita memória.
Trabalho não falta. Vamos ver. Tentamos trabalhar com os modelos, levando em conta suas peculiaridades.
Estou lendo um estudo sobre a aplicabilidade de diferentes tipos de LLM e seu treinamento/ajuste para a previsão de séries temporais:
Resumo do texto (desculpem pelo inglês, cliquem no botão para traduzir):
"Pretraining + Finetune" method performed the best 3 times, while "Random Initialization + Finetune" achieved this 8 times. This indicates that language knowledge offers very limited help for forecasting. However, "Pretrain + No Finetuning" and the baseline "Random Initialization + No Finetuning" performed the best 5 times and 0 times, respectively, suggesting that Language knowledge does not contribute meaningfully during the finetuning process.
Traduzindo para o russo: não faz sentido usar um modelo de linguagem pronto para a previsão de séries temporais; é melhor pegar um modelo em branco com uma nuvem de conexões (quanto mais, melhor, é claro) e treiná-lo com suas próprias séries temporais, sem ajuste posterior. A julgar pelas publicações, o tipo de embedding influencia bastante a qualidade — não sei se é possível selecioná-lo no Llama.
Resta a questão sobre a aplicabilidade dessa abordagem em hardware local acessível.
Yevgeniy Koshtenko
E quais são os requisitos mínimos de hardware para rodar a configuração descrita no artigo?
No site ollama.com não consigo encontrar nada sobre isso...
Novo artigo Integração rápida de um grande modelo de linguagem com o MetaTrader 5 (Parte I): Criando o modelo foi publicado:
Autor: Yevgeniy Koshtenko
- Aplicativos de negociação gratuitos
- 8 000+ sinais para cópia
- Notícias econômicas para análise dos mercados financeiros
Você concorda com a política do site e com os termos de uso
Novo artigo Integração rápida de um grande modelo de linguagem com o MetaTrader 5 (Parte I): Criando o modelo foi publicado:
Você criou um robô de trading. O backtest é perfeito: a curva sobe e a taxa de acerto chega a 70%. Mas, na conta real, o resultado é prejuízo. O algoritmo compra quando o RSI indica sobrevenda pouco antes de uma decisão do Fed, abre operações na sexta-feira à noite e ignora notícias capazes de virar o mercado. Ele enxerga o padrão, mas não enxerga o contexto.
Nem mesmo o machine learning resolve o problema. O CatBoost pode prever a direção de um candle com 73% de acerto, mas não entende que hoje a liquidez está baixa e o spread dobrou. O modelo sabe para onde o mercado pode ir, mas não sabe quando agir.
É preciso um sistema que pense, levando em conta gráficos, horário, dia da semana, notícias e volatilidade. Um sistema capaz de dizer: "Há um sinal, mas o risco não compensa. Vou deixar essa oportunidade passar".
Os grandes modelos de linguagem (LLM) oferecem essa flexibilidade. Sua força está nas propriedades emergentes: comportamentos complexos surgem da interação entre inúmeros elementos simples. É como no cérebro: cada neurônio isoladamente é primitivo, mas, em conjunto, eles dão origem à consciência. Os LLM funcionam segundo um princípio semelhante.
Autor: Yevgeniy Koshtenko