Discussão do artigo "Redes neurais em trading: Pipeline inteligente de previsões (Time-MoE)"

 

Novo artigo Redes neurais em trading: Pipeline inteligente de previsões (Time-MoE) foi publicado:

Propomos conhecer o framework moderno Time-MoE, adaptado para tarefas de previsão de séries temporais. No artigo, implementaremos passo a passo os principais componentes da arquitetura, acompanhando-os com explicações e exemplos práticos. Essa abordagem permitirá não apenas compreender os princípios de funcionamento do modelo, mas também aplicá-los em tarefas reais de trading.

Time-MoE é um Decoder-Only Transformer de nova geração, desenvolvido especificamente para sequências temporais. Sua base está nos princípios de aprendizado esparso, modularidade e previsão em múltiplas escalas. Os autores do framework demonstram como é possível transferir a escalabilidade e a flexibilidade de modelos de grande porte para o domínio das séries temporais, sem sacrificar a eficiência computacional. A arquitetura do modelo apresentada por eles permite suportar comprimentos arbitrários das sequências analisadas e dos horizontes de planejamento. Ao mesmo tempo, o modelo é capaz de processar fluxos de dados em tempo real.

O primeiro elo da arquitetura é a tokenização ponto a ponto da série temporal (Point-Wise Tokenization). Diferentemente das abordagens baseadas em janelas ou agregações, aqui cada passo temporal é convertido em um token separado. Essa característica pode se mostrar útil no trading de alta frequência, em que até mesmo um único tick pode alterar o cenário. No ambiente MQL5, os tokens podem ser formados com base em barras, ticks e indicadores derivados, incluindo volatilidade, volumes e sinais de estratégias personalizadas.

Após a tokenização, os dados passam por uma camada de incorporação com ativação SwiGLU, que representa um híbrido Swish e Gated Linear Unit. Ela permite formar representações mais suaves e estáveis das informações analisadas, o que é especialmente útil na presença de ruído de mercado e tendências instáveis.


Autor: Dmitriy Gizlyk