Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 2748

[JeeyCi]

elibrarius #:
   

В статьях Владимира тоже ошибка в районе 10-20%, но линия баланса не внушает оптимизма.

вот это может зависеть и от Интерпретации "а-посля" обучения...

[mytarmailS]

Maxim Dmitrievsky #:

в предыдущем сообщении дописал

#299

мои посты кто то удалил , там где я кидал видяшку.. хз как такое может быть

[[Удален]]

mytarmailS #:

мои посты кто то удалил , там где я кидал видяшку.. хз как такое может быть

ну-ну, выпендриваешься сильно много наверное

вот по деревянным моделям

#4469

#4467

Про катбуст искать? 😄 кто тему начал

[mytarmailS]

Maxim Dmitrievsky #:

ну-ну, выпендриваешься сильно много наверное

вот по деревянным моделям

#4469

#4467

Про катбуст искать? 😄 кто тему начал

Слушай ну по дереву это вообще не аргумент.. 95% обучалок по МО начинаються с дерева, это то с чем знакомиться в первую очередь новичек, тут как бы твоих заглуг в этом нет

[[Удален]]

mytarmailS #:

Слушай ну по дереву это вообще не аргумент.. 95% обучалок по МО начинаються с дерева, это то с чем знакомиться в первую очередь новичек, тут как бы твоих заглуг в этом нет

Здесь до этого в основном НС обсуждались, я задался вопросом почему не деревья. Сделал тесты, оказалось что они ничем не хуже. До этого такой инфо тут не видел, иначе бы не задавался этим вопросом.

Потом перешел на бустинг, нашел катбуст либу и начал ее тут тиражировать

[JeeyCi]

Maxim Dmitrievsky #:

Здесь до этого в основном НС обсуждались, я задался вопросом почему не деревья. Сделал тесты, оказалось что они ничем не хуже. До этого такой инфо тут не видел, иначе бы не задавался этим вопросом.

а деревья, кстати, и могут служить достойной альтернативой и кластеризации и fs - "2 в одном"

Maxim Dmitrievsky #:
   

Потом перешел на бустинг, нашел катбуст либу и начал ее тут тиражировать

по алгоритму: даёт ещё 2-ую производную математически (или усреднение остатков - статистически) -- НО чем это помогает в обучении и в каких случаях лично вам?.. помимо стандартных клише в рекламных роликах "catboost даст лучшие и более точные результаты"... ведь не везде точечная точность важна, иногда генеративные способности модели могут быть поважнее

[[Удален]]

JeeyCi #:

а деревья, кстати, и могут служить достойной альтернативой и кластеризации и fs

по алгоритму: даёт ещё 2-ую производную математически (или усреднение остатков - статистически) -- НО чем это помогает в обучении и в каких случаях?.. помимо стандартных клише в рекламных роликах "catboost даст лучше и более точные результаты"... ведь не везде точечная точность важна, иногда генеративные способности модели могут быть поважнее?

Есть еще деревянные модели для causal inference, не успел разобраться

Бустинг снижает bias и variance, тогда как Форест только variance вроде. Это если о доказанных преимуществах, можно загуглить. Ну и сама библиотека развитая, удобно работать с ней.

Про генеративные не совсем понятно, может быть иногда и важнее. Но НС генеративные на Форексе работают плохо, если речь о том чтобы генерить синтетические данные.

[JeeyCi]

Maxim Dmitrievsky #:
   

 если речь о том чтобы генерить синтетические данные.

нет - речь о том, чтобы generalize (обобщать)... да, неверно, выразилать... sorry

думаю, выделять risk-on/risk-off environment -- пока думаю по каким признакам обобщать такое разделение... вся в своих мыслях (на форуме случайно)...

спасибо за ответ!

[[Удален]]

JeeyCi #:

нет - речь о том, чтобы generalize (обобщать)... да, неверно, выразилать... sorry

думаю, выделять risk-on/risk-off environment -- пока думаю по каким признакам обобщать такое разделение... вся в своих мыслях (на форуме случайно)...

спасибо за ответ!

попробуйте, в катбусте куча разных фичей, мне понравилось

есть ранний останов на основании ошибки на валидационной выборке, дообучение. Генерализация не хуже чем у НС, к которым к тому же свои функции приходится писать для остановки обучения

и учится быстро, не надо часами ждать

[mytarmailS]

может ли случайный лес найти максимум в строке данных, те симитировать функцию мах() ?

Те просто интересно, может ли МО имитировать притивные функции из ЯП

есть матрица, каждая строка  матрицы это обучающий пример

head(X)
     [,1] [,2] [,3] [,4] [,5]
[1,]    2    4    1    3    1
[2,]    3    1    4    5    3
[3,]    1    2    4    4    1
[4,]    1    1    5    3    5
[5,]    3    4    1    3    3
[6,]    4    4    5    1    2

нужно найти максимум каждой строки, размер выборки 20к строк

решаю задачу через регресию

 pred actual
1  4.967619      5
2  4.996474      5
3  4.127626      4
4  4.887233      5
5  5.000000      5
6  4.881568      5
7  4.028334      4
8  4.992406      5
9  3.974674      4
10 4.899804      5
11 4.992406      5

округляю для наглядности

 pred actual
1     5      5
2     5      5
3     4      4
4     5      5
5     5      5
6     5      5
7     4      4
8     5      5
9     4      4
10    5      5
11    5      5

довольно не плохо, на тесте из 50 новых строк всего несколько ошибок

Но данные то в матрице Х очень просты, всего 5 уникальных значений от 1 до 5 и колонок то всего 5 , а уже ошибки .

Хотя думаю если делать классификацию то ошибок бы не было , кстати можно проверить

Ну да, так и есть , но если мы ищем максимум в данных то классификация не подходит потому что разброс значений может быть огромный..

Так что вернемся к регресии и усложним данные

head(X)
      [,1]  [,2]  [,3]  [,4]  [,5]
[1,]  0.93 -2.37 -0.35  0.16 -0.11
[2,] -0.53  0.19 -0.42  1.35 -0.16
[3,]  1.81  0.19 -0.68  0.31 -0.05
[4,]  0.08 -1.43  0.15 -0.96  0.43
[5,]  0.40  1.36  1.17 -0.99 -0.18
[6,] -2.19 -0.65  0.42 -1.12  1.46

получаем такой результат

  pred actual
1   1.75   1.78
2   1.33   1.31
3   1.67   1.69
4   1.15   1.16
5   0.51   0.41
6   1.00   0.99
7   0.80   0.78
8   1.75   1.76
9   0.35   0.36
10  1.78   1.79
11  2.02   2.13
12  1.26   1.21
13  1.60   1.57
14  0.19   0.06

В принцепе не плохо, но обычная функция мах() сделает это лучше и может заменить всю эту модель.. 

Кстати интересно, как сработают другие модели, смогут ли они возсоздать  функцию мах() без ошибки