Discusión sobre el artículo "Redes neuronales en el trading: De los Transformer a las neuronas de impulsos (SpikingBrain)"

[MetaQuotes]

Artículo publicado Redes neuronales en el trading: De los Transformer a las neuronas de impulsos (SpikingBrain):

El framework SpikingBrain presenta un enfoque único para el procesamiento de datos: las neuronas solo responden a eventos significativos, lo que permite filtrar eficazmente el ruido. Su arquitectura basada en eventos reduce los costes computacionales al tiempo que conserva la información clave sobre la evolución de los precios. Los umbrales adaptativos y la posibilidad de utilizar módulos preentrenados garantizan la flexibilidad y la escalabilidad del modelo.

Si analizamos SpikingBrain desde la perspectiva de la evolución de los conceptos relacionados con las redes neuronales, parece ser un paso adelante natural, tanto lógico como oportuno. El modelo Transformer provocó en su día una auténtica revolución al alejarse de las engorrosas estructuras recurrentes e introducir un mecanismo de atención capaz de mantener toda la secuencia de datos en el punto de mira al mismo tiempo. Esta versatilidad lo ha convertido en el referente por excelencia para los modelos de lenguaje y para una amplia gama de tareas relacionadas. Sin embargo, la versatilidad también tiene su lado negativo. Una arquitectura que funciona a la perfección con el texto se satura rápidamente cuando se enfrenta al mercado. Al fin y al cabo, la mayor parte del tiempo no ocurre nada significativo y hay demasiadas fluctuaciones ruidosas.

Y es precisamente aquí donde SpikingBrain aporta una idea novedosa. Los autores del framework se basan en el concepto de atención, pero lo trasladan al ámbito de los sistemas basados en eventos. En una red Transformer clásica, la atención se distribuye a lo largo de toda la secuencia: el modelo tiene en cuenta todo a la vez e identifica las partes que son más o menos significativas. En SpikingBrain, la atención surge como un destello: una respuesta instantánea cuando se alcanza un umbral determinado.

Esta diferencia se aprecia especialmente en el mercado financiero. Las cotizaciones pueden considerarse como un flujo de letras que conforman las palabras y las frases de la historia del mercado. A diferencia del lenguaje natural, aquí hay una gran cantidad de letras adicionales, repeticiones e inserciones aleatorias. El Transformer es capaz de procesar todos esos elementos. Pero a menudo lo hace de forma excesiva, como un profesor pedante que no pasa por alto ni un solo detalle, ni siquiera uno sin importancia. SpikingBrain, por el contrario, actúa como un editor experimentado: elimina las expresiones manidas y se centra únicamente en lo que cambia el significado. El resultado es que la estructura de datos sigue siendo ágil y la señal no se sobrecarga con información innecesaria.

Autor: Dmitriy Gizlyk