文章 "您应当知道的 MQL5 向导技术(第 32 部分):正则化"

 

新文章 您应当知道的 MQL5 向导技术(第 32 部分):正则化已发布:

正则化是一种在贯穿神经网络各层应用离散权重,按比例惩罚损失函数的形式。我们来考察其重要性,对于一些不同的正则化形式,能够在配合向导组装的智能系统运行测试。

正则化是机器学习算法的另一面,它为神经网络的性能带入了一些敏感性。在网络过程中,常有以牺牲其它参数为代价,只为某些参数过度分配权重的倾向。当依据样本之外数据执行测试时,这种对特定参数(网络权重)的“倾向”可能会阻碍网络的性能。这就是开发正则化的原因。

它本质上是一种机制,即按损失函数的结果成比例增加(或惩罚)各层结点所用的权重量级,来减慢收敛过程。这通常按以下方式完成:提早停止、索套(Lasso)山脊、弹性网、或舍弃。这些格式中的每一种都略有不同,我们不会考虑所有类型,但我们将详细讨论 Lasso、Ridge 和 Drop-Out。

正则化



作者:Stephen Njuki