Está perdiendo oportunidades comerciales:
- Aplicaciones de trading gratuitas
- 8 000+ señales para copiar
- Noticias económicas para analizar los mercados financieros
Registro
Entrada
Usted acepta la política del sitio web y las condiciones de uso
Si no tiene cuenta de usuario, regístrese
Artículo publicado Redes neuronales en el trading: Entrenamiento de modelos de picos profundos (SEW-ResNet):
Sin embargo, a pesar de su impresionante verosimilitud biológica y de las nuevas perspectivas que ofrecían, los modelos de picos seguían siendo inferiores a las redes neuronales clásicas en una serie de tareas prácticas. Esto se ponía especialmente de manifiesto en conjuntos de datos complejos, en los que se requería una gran precisión y profundidad de análisis. En un momento dado, quedó claro que el camino hacia el progreso pasaba por integrar las ideas del aprendizaje profundo en la arquitectura de los modelos de picos. Así surgieron los primeros intentos de adaptar ResNet al formato de picos. El concepto de Spiking ResNet parecía prometedor: trasladar los bloques residuales de la arquitectura clásica y sustituir las funciones de activación por neuronas de pico. Este enfoque permitía aplicar el principio, contrastado por el paso del tiempo, de la profundidad y las conexiones residuales en un nuevo contexto basado en eventos.
Los resultados fueron dispares. Por un lado, los modelos convertidos a partir de redes neuronales clásicas demostraron una precisión excepcional y pusieron el listón muy alto para otras soluciones. Por otro lado, durante el entrenamiento directo de Spiking ResNet surgieron algunos problemas: una pérdida de calidad al aumentar la profundidad, gradientes evanescentes y explosivos, y dificultades para implementar una aplicación identidad correcta. Todo ello hacía que la tarea de construir modelos de picos verdaderamente profundos y estables siguiera sin resolverse.
En este contexto, la aparición del framework SEW-ResNet, presentado en el artículo «Deep Residual Learning in Spiking Neural Networks», supuso un importante paso adelante. La idea principal consistía en analizar desde una nueva perspectiva el mecanismo del aprendizaje residual aplicado a las arquitecturas de picos. Los autores del framework de trabajo propusieron un enfoque «Spike-Element-Wise» que permite implementar de forma natural la aplicación identidad y, al mismo tiempo, evitar problemas clave relacionados con los gradientes. Las pruebas prácticas han confirmado la validez del concepto. SEW-ResNet no solo ha demostrado una mayor precisión, sino también la capacidad de escalar a medida que aumenta la profundidad del modelo, algo que antes no se había conseguido. Es más, por primera vez se ha logrado construir una red neuronal de picos con más de 100 capas, que mantenía la estabilidad del aprendizaje y superaba en resultados a muchas soluciones existentes.
Autor: Dmitriy Gizlyk