Discusión sobre el artículo "Red neuronal en la práctica: Funciones de activación"

[MetaQuotes]

Artículo publicado Red neuronal en la práctica: Funciones de activación:

Este ha sido, con toda seguridad, el artículo que más me ha gustado escribir hasta ahora sobre este tema. En él mostré que, en realidad, no necesitamos gran cosa ni nada específico para alcanzar un determinado objetivo. Podemos conseguirlo de distintas maneras, siempre que contemos con los conocimientos adecuados y tengamos la disposición necesaria para estudiar y dedicarnos a ello. Agradezco de corazón a todos los que me ayudaron con la elección de las funciones. El contenido expuesto aquí tiene una finalidad exclusivamente didáctica. En ningún caso debe considerarse una aplicación destinada a algo distinto del aprendizaje y el estudio de los conceptos presentados.

En el artículo anterior Red neuronal en la práctica: Gráfico de Rectifier, desarrollamos una aplicación con la que podíamos visualizar el gráfico de la función de activación junto con su correspondiente derivada. Sin embargo, lo que vimos allí es solo una base para algo un poco más elaborado, que será el tema principal de este artículo.

Sé que muchos pueden considerar innecesario comprender el gráfico de una función de activación y también el de su derivada, y que podríamos profundizar directamente en el tema dejando este tipo de cuestiones de lado. Sin embargo, es mucho más sencillo entender por qué la función sigmoide no puede utilizarse en redes muy profundas si comprendes su gráfico.

Así que aquí nos centraremos precisamente en eso. Seleccionaremos algunas funciones de activación y veremos cómo podríamos modificar el código del artículo anterior para visualizar gráficamente tanto la función de activación como su derivada.

Autor: Daniel Jose