Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 976

 
elibrarius:

Интересно, а почему может такое происходить?
Использую DNN Darch, backpropagation, dropout.

Epoch:  16 of 100
Classification error on Train set: 41.69% (2668/6400)
Epoch:  17 of 100
Classification error on Train set: 31.87% (2040/6400)
Epoch:  18 of 100
Classification error on Train set: 32.09% (2054/6400)
Epoch:  19 of 100
Classification error on Train set: 39.55% (2531/6400)
Epoch:  20 of 100
Classification error on Train set: 38.02% (2433/6400)
Epoch:  21 of 100
Classification error on Train set: 49.89% (3193/6400)
Epoch:  22 of 100
Classification error on Train set: 50.56% (3236/6400)
Epoch:  23 of 100
Classification error on Train set: 45.56% (2916/6400)

Т.е. берет хорошо обученную сеть с 17 шага и ухудшает ее к 21.

Понял.
dropout накладывал новую маску на каждой эпохе, переключу на каждый miniBatch - должно получше стать

Не помогло:
Classification error on Train set: 45.11% (2887/6400)
Epoch:  10 of 100
Classification error on Train set: 34.92% (2235/6400)
Epoch:  11 of 100
Classification error on Train set: 30.16% (1930/6400)
Epoch:  12 of 100
Classification error on Train set: 45.28% (2898/6400)
Epoch:  13 of 100
Classification error on Train set: 39.56% (2532/6400)

Это нормально. А как должно быть? После обучения Вам вернется лучшая модель. Критерий "лучшести" Вы выбираете самостоятельно. Ну Вы же это знаете. 

Уменьшение батча не всегда приводит к улучшению качества. 

Это модель с оптимизированными гиперпараметрами? Покажите параметры Вашей модели и схему обучения. Может что и прояснится.

Удачи

 
Vladimir Perervenko:

Это нормально. А как должно быть? После обучения Вам вернется лучшая модель. Критерий "лучшести" Вы выбираете самостоятельно. Ну Вы же это знаете. 

Уменьшение батча не всегда приводит к улучшению качества. 

Это модель с оптимизированными гиперпараметрами? Покажите параметры Вашей модели и схему обучения. Может что и прояснится.

Удачи

Ну если это нормально, тогда буду использовать как есть.
Просто на ваших графиках ошибка процентов на 5 прыгала после подхода к 30%. А у меня то 30 то 50.
Да модель лучшая выберется.
И да - такие модели получаются при оптимизации гиперпараметров.
Я склоняюсь к тому, что это LearnRate = 1. Но я пробовал и 0,7 и 0,3 и 0,1 - и 0,01. Где то до 0,1 еще что-то находится с ошибкой 30%, а при низких LearnRate<0.1 НС вообще ничему не может научиться. Так что пускай при LearnRate = 1 найдет несколько вариантов из которых потом лучший возьму.
 

Второй день борюсь с Анакондой. За 2 дня уже 3 переустановки. При инициализации Spyder-а прут ошибки.

Вчера все было вроде ОК. Установил numpy, кот должен быть уже в базе, но его не было. Тут ошибки и поперли.

Удалил numpy - ошибки не исчезли, еще раз установил - никакого эффекта.

Дальше пишем import numpy - отвечает, что модуль установлен, но не инициализируется.

Переустановка Анаконды с чисткой реестра и удалением отовсюду остатков папок и файлов причастных к Анаконде не помогают.

Я офигеваю.))

 
PyCharm  чем не угодил? Интеграция с Анакондой есть.
 
Yuriy Asaulenko:

Второй день борюсь с Анакондой. За 2 дня уже 3 переустановки. При инициализации Spyder-а прут ошибки.

Вчера все было вроде ОК. Установил numpy, кот должен быть уже в базе, но его не было. Тут ошибки и поперли.

Удалил numpy - ошибки не исчезли, еще раз установил - никакого эффекта.

Дальше пишем import numpy - отвечает, что модуль установлен, но не инициализируется.

Переустановка Анаконды с чисткой реестра и удалением отовсюду остатков папок и файлов причастных к Анаконде не помогают.

Я офигеваю.))

зачем вам конда, научитесь сначала основам работы с питоном, затем IPython, потом уже конда, которая вообще не обязательна

тот же Tflow и sklearn спокойно ставятся и без нее

 
Yuriy Asaulenko:

Я офигеваю.))

Научитесь основам работы с компьютером. С ЭВМ, так сказать...

 
Alexander_K2:

Научитесь основам работы с компьютером. С ЭВМ, так сказать...

))

 
Alexander_K2:

Научитесь основам работы с компьютером. С ЭВМ, так сказать...

Сами-то умеете? Сильно сомневаюсь.))

 

настольный справочник по IPython

https://jakevdp.github.io/PythonDataScienceHandbook/

 
Maxim Dmitrievsky:

зачем вам конда, научитесь сначала основам работы с питоном, затем IPython, потом уже конда, которая вообще не обязательна

тот же Tflow и sklearn спокойно ставятся и без нее

Я в курсе. Мне Spyder понравился. Стандартный Питоновский малофункционален. А Spyder почти VS (шутка). Надо сказать, что кроме стандартного других редакторов пока не видел.

А так, все нормально с Питоном - пашет без проблем, только со Spyder-ом непонятки. Причем уже из коробки глючит, при этом только с numpy и matplotlib. Остальное пока пашет, но далеко на Spyder-ре еще не ходил.

А все редакторы подряд тоже ставить-пробовать не хочется.

Причина обращения: