Discusión sobre el artículo "Características del Wizard MQL5 que debe conocer (Parte 32): Regularización"

 

Artículo publicado Características del Wizard MQL5 que debe conocer (Parte 32): Regularización:

La regularización es una forma de penalizar la función de pérdida en proporción a la ponderación discreta aplicada a lo largo de las distintas capas de una red neuronal. Observamos la importancia que esto puede tener, para algunas de las diversas formas de regularización, en ejecuciones de prueba con un Asesor Experto ensamblado mediante el asistente.

La regularización es otra faceta de los algoritmos de aprendizaje automático que aporta cierta sensibilidad al rendimiento de las redes neuronales. En el proceso de una red, a menudo se tiende a asignar una ponderación excesiva a algunos parámetros en detrimento de otros. Este "sesgo" hacia parámetros particulares (pesos de la red) puede llegar a obstaculizar el rendimiento de la red cuando las pruebas se realizan en datos fuera de la muestra. Por esta razón se desarrolló la regularización. 

Básicamente actúa como un mecanismo que ralentiza el proceso de convergencia al aumentar (o penalizar) el resultado de la función de pérdida en proporción a la magnitud de los pesos utilizados en cada unión de capas. Esto se hace a menudo mediante: Detención temprana, LassoRidge, Elastic-Net o Drop-Out. Cada uno de estos formatos es un poco diferente, y no consideraremos todos los tipos, sino que nos detendremos en Lasso, Ridge y Drop-Out.

Regularization

Autor: Stephen Njuki