Dmitriy Gizlyk / 个人资料

在上一篇文章中，我们开始研究旨在提高神经网络训练品质的方法。 在本文中，我们将继续这个主题，并会研讨另一种方法 — 批次数据常规化。

作为研究神经网络的下一步，我建议研究在神经网络训练过程中提高收敛性的方法。 有若干种这样的方法。 在本文中，我们将研究其中之一，名为“舍弃”。

也许，GPT-3 是目前已有语言类神经网络中最先进的模型之一，它的最大变体可包含 1750 亿个参数。 当然，我们不打算在家用 PC 上创建如此庞然之物。 然而，我们可以看看在我们的操作中能够采用哪种体系解决方案，以及如何从中受益。

我们以前曾研究过神经网络中的自关注机制。 在实践中，现代神经网络体系结构会采用多个并行的自关注线程来查找序列元素之间的各种依存关系。 我们来研究这种方法的实现，并评估其对整体网络性能的影响。

我们已经经历了很长一段路，并且函数库中的代码越来越庞大。 这令跟踪所有连接和依赖性变得难以维护。 因此，我建议为先前创建的代码创建文档，并保持伴随每个新步骤进行更新。 正确准备的文档将有助我们看到操作的完整性。

在之前的文章中，我们已经测试了组织规划神经网络的各种选项。 我们还研究了自图像处理算法中借鉴而来的卷积网络。 在本文中，我建议研究关注机制，它的出现为开发语言模型提供了动力。

在之前的文章中，我们利用随机梯度下降法针对网络中的所有神经元按照相同的学习率训练神经网络。 在本文中，我提议着眼于自适应学习方法，该方法能够改变每个神经元的学习率。 我们还将研究这种方法的利弊。

我们之前已研究过各种类型的神经网络及其实现。 在所有情况下，训练神经网络时都使用梯度下降法，为此我们需要选择学习率。 在本文中，我打算通过示例展示正确选择学习率的重要性，及其对神经网络训练的影响。

我们早前已经讨论过某些类型的神经网络实现。 在所研究的网络中，每个神经元都重复相同的操作。 逻辑上进一步应利用现代技术提供的多线程计算功能来加快神经网络学习过程。 本文介绍了一种可能的实现方式。

我们继续研究神经网络的世界。 在本文中，我们将研究另一种类型的神经网络，循环网络。 此类型建议与时间序列配合使用，其在 MetaTrader 5 交易平台中由价格图表呈现。

作为神经网络主题的延续，我建议研究卷积神经网络。 这种类型的神经网络通常用来分析视觉成像。 在本文中，我们将研究这种网络在金融市场中的应用。

在第二篇文章中，我们将继续研究神经网络，并研究在智能交易系统当中调用我们所创建 CNet 类的示例。 我们将操控两个神经网络模型，它们在训练时间和预测准确性方面都表现出相似的结果。

人工智能往往伴随着极其复杂和难以理解的事物。 同时，人工智能在日常生活中也越来越多地被提及。 不同的媒体也经常发布有关运用神经网络成就的新闻。 本文的目在于展示任何人都可以轻松创建神经网络，并在交易中运用 AI 成就。

本文是前一篇名为“逆转形态：测试双顶/双底形态”的后续文章。 现在我们将会看到另一个著名的逆转形态，称为头肩，比较两种形态的交易效率，并尝试将它们合并成为单一的交易系统。