Обсуждение статьи "Нейронные сети - от теории к практике" - страница 2

[Andrey Dik]

alexeymosc:

Дело в том, что НС обучается любой функции, как вы знаете, и делает это успешно, главное, чтобы диапазон данных вне выборки был внутри диапазона обучения. 

Собственно, именно про это я и говорил. Будет выход за пределы диапазона - ответы будут неверными. Поэтому я говорю, что таблице умножения 1-9 обучить можно, а вот умножению в целом чисел на всей числовой прямой - нет, это уже что то из разряда подвига - "приготовить вкусно яичницу".

[Alexey Burnakov]

joo:
Собственно, именно про это я и говорил. Будет выход за пределы диапазона - ответы будут неверными. Поэтому я говорю, что таблице умножения 1-9 обучить можно, а вот умножению в целом чисел на всей числовой прямой - нет, это уже что то из разряда подвига - "приготовить вкусно яичницу".

Да, к сожалению, современное поколение НС не может работать на входах в отличном от обучающего диапазоне. Может быть, есть кастомные архитектуры, которые с этим справляются, но многослойный перцептрон с нелинейной функцией точно нет.

Specially for you :)

 

 В этом случае данные валидационной выборки имели и входы и выходы за пределами диапазона, на котором НС обучалась. А данные тестовой выборки тоже вне диапазона обучающей выборки. Валидация начинается с 201-ого случая. Видно, как экспоненциально ошибка начинает расти. И сверху желтым выделено средняя квадратичная ошибка на выборках. Усе видно невооруженным глазом.

[Igor Makanu]

может быть стоит в один топик обсуждение НС перенести? вот пока ничем не примечательный топик, но название соответствует https://www.mql5.com/ru/forum/8158

[Dmitriy Parfenovich]

Спасибо за добрые слова и критику.

[Yedelkin]

Нейронные сети – это одно из направлений исследований в области искусственного интеллекта, основанное на попытках воспроизвести нервную систему человека, а именно: способность нервной системы обучаться и исправлять ошибки...

Не просёк фишку. Каким именно образом происходит самообучение нейросоветника? Иными словами, каким образом программа изменяет весовые коэффициенты  ?

[Stanislav Korotky]

joo:
Собственно, именно про это я и говорил. Будет выход за пределы диапазона - ответы будут неверными. Поэтому я говорю, что таблице умножения 1-9 обучить можно, а вот умножению в целом чисел на всей числовой прямой - нет, это уже что то из разряда подвига - "приготовить вкусно яичницу".

Ну, эта проблема иногда решаема путем преобразования переменных. Например, если для случая умножения, представлять входные числа как двоичные последовательности битов, т.е. фактически перевести в диапазон [0,1], то тогда вероятно можно будет обучить умножению произвольных чисел рекуррентную сетку, на вход которой числа подаются как последовательности битов.

[Stanislav Korotky]

Yedelkin:

Не просёк фишку. Каким именно образом происходит самообучение нейросоветника? Иными словами, каким образом программа изменяет весовые коэффициенты  ?

Энто делает штатный алгоритм генетической оптимизации. Данная реализация сетки не включает в себя никаких алгоритмов обучения - можно рассматривать это как удобное упрощение, многие так делают уже давно на четверке. Но как и любое упрощение, оно сказывается на возможностях, фактически ограничивая структуру сетки и принцип обучения. В частности, невозможно запустить такое обучение в онлайн советнике (по крайней мере до тех пор пока оптимизатор не выведен в API MQL5).

[Yedelkin]

marketeer: Энто делает штатный алгоритм генетической оптимизации.

Т.е. для полноценной работы нейросоветника (самообучение) необходимо в код программы встраивать "штатный алгоритм генетической оптимизации"? Существуют ли  в открытом доступе готовые реализации подобных алгоритмов?

[yu-sha]

Yedelkin:
Т.е. для полноценной работы нейросоветника (самообучение) необходимо в код программы встраивать "штатный алгоритм генетической оптимизации"? Существуют ли  в открытом доступе готовые реализации подобных алгоритмов?

http://lancet.mit.edu/ga/ - Massachusetts Institute of Technology

[Stanislav Korotky]

Yedelkin:
Т.е. для полноценной работы нейросоветника (самообучение) необходимо в код программы встраивать "штатный алгоритм генетической оптимизации"? Существуют ли  в открытом доступе готовые реализации подобных алгоритмов?

Нет, конечно!  Он потому и штатный что уже вставлен в оптимизатор. Он сам оптимизирует веса сетки. Вот почитайте на четверошном сайте статью, может станет понятно как оптимизируется=обучается сетка при таком подходе.