Обсуждение статьи "Нейронная сеть на практике: Стохастический градиентный спуск"

[MetaQuotes]

Опубликована статья Нейронная сеть на практике: Стохастический градиентный спуск:

В статье на практических примерах объясняется, как вычислять и применять градиенты весов и смещения в линейном нейроне на MQL5, а также рассматривается стохастический вариант градиентного спуска. Мы анализируем критерии остановки, ограничение числа итераций и последствия частичной выборки. В терминале MetaTrader 5 отображаются результаты и построение простого графика. Читателю предлагается изменить обучающую выборку и проанализировать поведение модели.

Суть в следующем: в предыдущей статье я упоминаю, что в какой-то момент у вас может быть набор данных, который можно представить синей линией. То есть у нас есть довольно сложный многочлен. Этот многочлен подаётся на вход нейронной сети, чтобы она попыталась найти уравнение, способное описать данные, содержащиеся в наборе. Пока что, думаю, здесь нет ничего особенно сложного для понимания. В ходе объяснения я упоминаю, что точки, показанные на изображении, представляют величину ошибки, возникающей при инициализации нейронной сети. И именно эта часть, возможно, осталась несколько непонятной. Я хотел бы лучше прояснить этот вопрос.

Дело в том, что, когда мы что-то изображаем на графике, как многие, наверное, видели в объяснениях, связанных с ошибкой, этот график обычно представляет собой поверхность. Проблема в том, что для построения графика поверхности нужны две переменные: одна для оси X, а другая — для оси Y. Значения, соответствующие сочетанию этих переменных, отображаются по оси Z. Что-то похожее на то, что показано в следующей анимации.

В этой анимации видно, что при изменении значений по оси Z каждому значению по оси Z соответствует комбинация одного значения по оси X и другого — по оси Y. Однако кривая, показанная на изображении в начале статьи, не может быть представлена в виде графика поверхности; невозможно даже представить, как бы выглядел такой график. Это объясняется тем, что, очевидно, для её построения потребовалось бы гораздо больше двух переменных.

Автор: Daniel Jose