Discusión sobre el artículo "Red neuronal en la práctica: Gráfico de la Rectifier"

 

Artículo publicado Red neuronal en la práctica: Gráfico de la Rectifier:

Construimos, íntegramente en MQL5, un indicador para representar en el gráfico una función de activación y su derivada, tomando la ReLU como ejemplo. Explicamos el impacto de las derivadas en la elección de la activación y las precauciones necesarias en los puntos no diferenciables. El lector puede visualizar las curvas de forma interactiva y obtiene una base práctica para decidir cuándo utilizar o no determinadas funciones de activación.

En el artículo anterior Red neuronal en la práctica: Surgimiento de C_Neuron, comenzamos a hacer las cosas de una forma un poco más organizada. Empezamos a construir una clase cuyo objetivo es contener todo lo que necesitaremos incluir dentro de una neurona. Esto nos permitirá, en el futuro, conectar varias neuronas dentro de una arquitectura cuyo propósito será, de hecho, construir una pequeña red neuronal sencilla. Nada al estilo de ChatGPT ni nada parecido. El objetivo aquí es presentar y mostrar, a los entusiastas de las redes neuronales, cómo funcionan por dentro. Sin utilizar ningún recurso adicional. Programándolo todo nosotros mismos.

Pues bien, nuestra primera neurona básica ya es capaz de hacer algunas cosas, puesto que consigue converger en muchas de las situaciones sencillas en las que podemos probarla. Como ya nos permite modificar, de forma extremadamente sencilla y rápida, la cantidad de entradas, esto la hace mucho más interesante a la hora de pensar en sus posibles aplicaciones. Sin embargo, todavía se encuentra en una fase muy inicial. Su modelo aún no incluye ningún tipo de función de activación ni tampoco un formato que nos permita colocar las neuronas en cascada, formando así una secuencia de neuronas y, por consiguiente, una pequeña red neuronal.

Lo que explicaré en este artículo, y para lo cual muy probablemente sean necesarios otros, es precisamente lo que sucede dentro de la función de activación. La idea es que tú, estimado lector, consigas comprender cuándo, por qué y cómo utilizar y seleccionar la función de activación más adecuada. Cada caso es diferente. No existe una receta universal ni algo que deba hacer o utilizar siempre. Sin embargo, para tomar las mejores decisiones, es necesario comprender cómo funciona cada una de las funciones de activación y cuál es su impacto en toda la red neuronal, hablando en términos generales.


Autor: Daniel Jose