Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 2106

 
Maxim Dmitrievsky:

можно 2 разнонаправленные модели юзать

Пробовал учить отдельно по своей базовой стратегии - результаты были хуже, думаю, что за счет разбалансировки выборки - слишком много нулей получается и на них идет обучение.

Хочу попробовать другой вариант - отдельной моделью учить направление. Получится, что первая модель обучается на волатильность, а вторая на её вектор. Но опять же - выборка нужна большая.

[Удален]  
Aleksey Vyazmikin:

Пробовал учить отдельно по своей базовой стратегии - результаты были хуже, думаю, что за счет разбалансировки выборки - слишком много нулей получается и на них идет обучение.

Хочу попробовать другой вариант - отдельной моделью учить направление. Получится, что первая модель обучается на волатильность, а вторая на её вектор. Но опять же - выборка нужна большая.

Для несбалансированных классов можно использовать оверсемплинг. Я вертел и 2 и 3 модели, разницы никакой по сути 
 
Maxim Dmitrievsky:
Для несбалансированных классов можно использовать оверсемплинг. Я вертел и 2 и 3 модели, разницы никакой по сути 

Т.е. дублировать строки с целевой "1"? Пробовал - у меня результат вообще почти не менялся на CatBoost. Возможно, нужно добавлять немного шума.

[Удален]  
Aleksey Vyazmikin:

Т.е. дублировать строки с целевой "1"? Пробовал - у меня результат вообще почти не менялся на CatBoost. Возможно, нужно добавлять немного шума.

Не дублировать. Оверсемплинг в гугле, например SMOTE. У меня тоже не учится при большом дисбалансе. После овера все гуд
 
Aleksey Vyazmikin:

Т.е. дублировать строки с целевой "1"? Пробовал - у меня результат вообще почти не менялся на CatBoost. Возможно, нужно добавлять немного шума.

Так и должно быть. Балансировка по классам НС нужна. Деревья и так справятся.
 
Maxim Dmitrievsky:
Не дублировать. Оверсемплинг в гугле, например SMOTE. У меня тоже не учится при большом дисбалансе. После овера все гуд

Ну да, по сути добавление шума в показатели предикторов. Это может повлиять на границы квантования, усилив выделение участков с единицами, но по идеи такой же эффект должен быть и при добавлении дубликатов, единственно, что предполагаю, что дубликаты режутся алгоритмом CatBoost перед началом обучения (надо проеврить), тогда да - вариант.

 
elibrarius:
Так и должно быть. Балансировка по классам НС нужна. Деревья и так справятся.

Ну не всегда справляются - писал уже ранее.

 

Похоже спалил в своей статье прибыльный советник (подход к обучению):

На графике финансовый результат модели по итогу каждого месяца, если первую модель обучить на 12 месяцах и потом добавлять к ней историю каждого нового месяца - склейка фьючерсного Si контракта на USDRUB_TOM.

 
Aleksey Vyazmikin:

Ну не всегда справляются - писал уже ранее.

Думаю увеличение глубины деревьев поможет не хуже балансировки.
 
Aleksey Vyazmikin:

Ну да, по сути добавление шума в показатели предикторов. Это может повлиять на границы квантования, усилив выделение участков с единицами, но по идеи такой же эффект должен быть и при добавлении дубликатов, единственно, что предполагаю, что дубликаты режутся алгоритмом CatBoost перед началом обучения (надо проеврить), тогда да - вариант.

Скорее квантование сведет этот шум на нет. Если в столбе 10000 разных значений, при квантовании к 255 квантам в один квант попадет в среднем 40 разных значений. Или другой пример - если было изначально 1000 примеров, добавляем шум с получением 10000 примеров, потом квантованием своим к 255 разных квантов/значений - лишняя работа на мой взгляд с этим добавлением шума.


Смотрел недавно код - удаления дубликатов не увидел. Скорее наоборот из 40 разных примеров делаются дубликаты объединением в 1 квант.