Discussão do artigo "Redes neurais em trading: dos Transformers aos neurônios de disparo (SpikingBrain)"

 

Novo artigo Redes neurais em trading: dos Transformers aos neurônios de disparo (SpikingBrain) foi publicado:

O framework SpikingBrain apresenta uma abordagem singular para o processamento de dados: seus neurônios reagem apenas a eventos relevantes, filtrando o ruído com eficiência. Sua arquitetura orientada a eventos reduz os custos computacionais sem perder informações essenciais sobre os movimentos do mercado. Os limiares adaptativos e a possibilidade de utilizar módulos pré-treinados conferem flexibilidade e escalabilidade ao modelo.

Quando analisado sob a perspectiva da evolução das redes neurais, o SpikingBrain se apresenta como uma etapa natural, lógica e oportuna desse desenvolvimento. O Transformer provocou uma verdadeira revolução ao abandonar as pesadas estruturas recorrentes e introduzir um mecanismo de atenção capaz de considerar simultaneamente toda a sequência de dados. Essa versatilidade o transformou no padrão de referência para modelos de linguagem e diversas tarefas relacionadas. No entanto, a versatilidade também tem seu ponto fraco. Uma arquitetura que funciona perfeitamente com textos pode ficar rapidamente sobrecarregada quando aplicada ao mercado, pois, na maior parte do tempo, nada de relevante acontece, enquanto há oscilações ruidosas demais.

É justamente nesse aspecto que o SpikingBrain introduz uma nova perspectiva. Os autores do framework adotam o conceito de atenção, mas o transferem para uma lógica orientada a eventos. No Transformer clássico, a atenção é distribuída por toda a sequência: o modelo considera tudo ao mesmo tempo, atribuindo maior ou menor relevância a cada parte. No SpikingBrain, a atenção surge como um disparo, uma reação imediata ao instante em que determinado limiar é atingido.

No mercado financeiro, essa diferença se torna particularmente evidente. As cotações podem ser imaginadas como um fluxo de letras que formam as palavras e frases da história do mercado. Ao contrário da linguagem, porém, esse fluxo contém uma enorme quantidade de letras desnecessárias, repetições e inserções aleatórias. O Transformer é capaz de processar tudo isso, mas muitas vezes de forma desnecessariamente abrangente, como um professor meticuloso que não deixa passar nenhum detalhe, mesmo quando esse detalhe não tem significado. O SpikingBrain, por sua vez, atua como um editor experiente, eliminando trechos banais e concentrando a atenção apenas no que altera o sentido. Como resultado, a estrutura dos dados permanece coesa e o sinal não fica sobrecarregado por informações desnecessárias.


Autor: Dmitriy Gizlyk