Присмотритесь к HTM. Попробуйте строить псевдостационарные ряды, переобучаться как можно чаще - Общее обсуждение

Aleksey Terentev 2018.01.18 14:56 #5851

Yuriy Asaulenko:
Так попробуй найди.)) Такой МЛП был бы оптимальный вариант.

Регуляризация и дропаут ваше все.)

Dmitriy Skub 2018.01.18 17:11 #5852

Yuriy Asaulenko:

Вчера нашел сверточную НС - обычно используется для распознавания изображений. Естественно, имеются все утилиты - обучение и пр. Сделана для использования в Питон.

Там еще рекуррентные и пр. есть, но это пока не оч интересно.

Т.к. сверточная сеть не полносвязная, то можно сильно увеличить количество нейронов без потери производительности. Но надо еще в деталях разбираться - пока не вникал.

Популярное описание - https://geektimes.ru/post/74326/

Присмотритесь к HTM - писал Вам ранее. В ее структуре заложено использование контекста. И есть реализация на питоне.

Maxim Dmitrievsky 2018.01.18 18:04 #5853

Про нестационарность от Хайкина

О чем я (и не только) и писал, а тут как бы уже все давно доказано :)

Dr. Trader 2018.01.18 18:36 #5854

Случайно узнал что есть новая версия пакета gbm, которой ещё нету в cran репозиториях.
https://github.com/gbm-developers/gbm3

установка:

install.packages("devtools")
library("devtools")
install_github("gbm-developers/gbm3")

после этого обновлённая библиотека в R называется gbm3:

library("gbm3")

Я в коде r скрипта просто заменил название библиотеки с gbm на gbm3, остальной код заработал без изменений.
У меня при поиске параметров gbm модели иногда случалось что обучение съедало много оперативной памяти и весь компьютер подвисал на десяток минут. С этой новой версией такого покачто не случалось, рекомендую попробовать.

После оптимизации тест на глобальная инициализация не удалась!!!!!!! Стань Автором! Опубликуйте свои

СанСаныч Фоменко 2018.01.18 18:44 #5855

Maxim Dmitrievsky:

Про нестационарность от Хайкина

О чем я (и не только) и писал, а тут как бы уже все давно доказано :)

Совершенно не понимаю текста про нестационарность: приход новых наблюдений разрушает ранее выявленные связи? Это может быть из-за моего незнания НС, но в деревьях рассматривается ровно одна строка наблюдений и невозможно разрушить ранее построенные деревья. Они могут не встречаться в будущем, в будущем могут появиться точно такие же деревья, но относить они будут к другому классу, но старое все будет оставаться незыблемым.

ПС.

Есть деревья, в которых рассматривается несколько строчек при построении дерева... но вроде бы это сути не меняет

Робот на нейронный сетях Есть ли закономерность в Когда появится учебник по

Maxim Dmitrievsky 2018.01.18 18:50 #5856

СанСаныч Фоменко:

Совершенно не понимаю текста про нестационарность: приход новых наблюдений разрушает ранее выявленные связи? Это может быть из-за моего незнания НС, но в деревьях рассматривается ровно одна строка наблюдений и невозможно разрушить ранее построенные деревья. Они могут не встречаться в будущем, в будущем могут появиться точно такие же деревья, но относить они будут к другому классу, но старое все будет оставаться незыблемым.

ПС.

Есть деревья, в которых рассматривается несколько строчек при построении дерева... но вроде бы это сути не меняет

Да нет, там все свелось к тому что надо последовательно строить псевдостационарные ряды, переобучаться как можно чаще.. в принципе я то же самое и делаю

или построить линейный\нелинейный фильтры.. я так понимаю перед этим нужно учесть динакмику изменения влияния предикторов на целевую, и попытаться адаптировать выходной сигнал через коэффициенты фильтра, в зависимости от изменений среды

ну в общем ничего особенного. По крайней мере в этой главе.

Некоторые признаки правильных ТС Теорема о пересечении двух Стохастический резонанс

Alexander_K2 2018.01.18 19:50 #5857

Maxim Dmitrievsky:

Про нестационарность от Хайкина

О чем я (и не только) и писал, а тут как бы уже все давно доказано :)

А гр.Хайкин, очевидно, не дурак был. Выдержка из стр.133 прямо говорит об этом факте.

Yuriy Asaulenko 2018.01.18 20:03 #5858

Maxim Dmitrievsky:

Про нестационарность от Хайкина

О чем я (и не только) и писал, а тут как бы уже все давно доказано :)

Ну, наконец Максим стал теорию читать, а не фигней маяться и пытаться изобретать велосипеды.)

Yuriy Asaulenko 2018.01.18 20:56 #5859

Dmitriy Skub:

Присмотритесь к HTM - писал Вам ранее. В ее структуре заложено использование контекста. И есть реализация на питоне.

Что-то не нашел в нашей переписке. Что есть HTM? и с чем едят?

Вообще, Питоном начал заниматься 2-3 дня назад. Пока мало что понимаю.) Так что до дела нескоро дойдет.

Dmitriy Skub 2018.01.19 07:49 #5860

Yuriy Asaulenko:

Что-то не нашел в нашей переписке. Что есть HTM? и с чем едят?

Вообще, Питоном начал заниматься 2-3 дня назад. Пока мало что понимаю.) Так что до дела нескоро дойдет.

Вот, отсюда можно начать: https://numenta.org/implementations/

Есть книжка на русском - перевод почти адекватный.

Implementations

Numenta
numenta.org

Numenta.org • Home of the HTM Community

Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 586