Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 3336

 
Maxim Dmitrievsky #:
Начал втыкать еще в object importance, там предложена целая статья. Посмотрю что это может дать.

Рад, что всё же смог заинтересовать. Пишите о достижениях в исследовании полезности данного подхода.

 
Forester #:

Думаю, что попробую воссоздать оценку листьев с учётом поэтапной коррекции ошибки, сделав переразметку после каждого листа (дерева).

Но, всё же, кажется, что при классификации это работает не так... плохо понимаю формулы.

Как я понял, что на первой итерации строится приближенная функция аппроксимации логлосс по меткам целевой, к которой с помощью деревьев надо приблизится, и дельта между идеальной функцией и получившейся с помощью деревьев как раз и записывается в лист после умножения на коэффициент скорости обучения.

Просто если размечать на ошибку, буквально воспринимая подход, то что-же, надо ошибку в двух разных классах помечать одним, допустим "1"?

Или, как?

[Удален]  
Aleksey Vyazmikin #:

Рад, что всё же смог заинтересовать. Пишите о достижениях в исследовании полезности данного подхода.

Я давно в этой теме. Есть другие способы/пакеты. Эту фичу как-то пропустил, может недавно добавили 
 
Maxim Dmitrievsky #:
Я давно в этой теме. Есть другие способы/пакеты. Эту фичу как-то пропустил, может недавно добавили 

Можно видео посмотреть на эту тему


 
Aleksey Vyazmikin #:

Значения в листьях, которые суммируются, образуя координату Y функции.

Для меня это ответ или прогноз листа. Подумал что вы его еще корректировать каким-то коэффициентом хотите.

Aleksey Vyazmikin #:
Просто если размечать на ошибку, буквально воспринимая подход, то что-же, надо ошибку в двух разных классах помечать одним, допустим "1"?

Или, как?

В учебном примере из статьи - только регрессия. За классификацию точно не скажу.

[Удален]  
Aleksey Vyazmikin #:

Можно видео посмотреть на эту тему

Интересно, что если сам более-менее долго занимаешься МО, то сам приходишь к похожим выводам. Некий естественный процесс эволюции подхода. Так пришел к козулу, statistical learning’у и reliable AI. Если гуглить эти слова, можно найти полезное.
 
Forester #:

В учебном примере из статьи - только регрессия. За классификацию точно не скажу.

Про классификацию вроде как пишут тут . Правда у CatBoost формула чуть другая, но может это издержки математических преобразований...

Ну и ссылка на видео от туда же вроде как


 
Maxim Dmitrievsky #:
Интересно, что если сам более-менее долго занимаешься МО, то сам приходишь к похожим выводам. Некий естественный процесс эволюции подхода. Так пришел к козулу, statistical learning’у и reliable AI. Если гуглить эти слова, можно найти полезное.

Да, это нормальный процесс - общее информационное поле. Истории известны открытия с разницей в пару лет, а труды их описывающие издаются с опозданием же - после проверок, рецензирования и вообще, перевода на понятный язык.

 
Aleksey Vyazmikin #:

Про классификацию вроде как пишут тут . Правда у CatBoost формула чуть другая, но может это издержки математических преобразований...

Ну и ссылка на видео от туда же вроде как


Кода нет. А судя по картинкам, последующие деревья обучаются не ровно 0 и 1, абс. значениям ошибки типа 0.21, 1,08, -0,47 .... как в регрессии.
[Удален]  
Aleksey Vyazmikin #:

Можно видео посмотреть на эту тему

Какая-то ерунда невнятная получается. Логлосс растет при удалении плохих семплов, а не падает. При удалении хороших тоже растет.

Сам не сделаешь - никто за тебя нормально не сделает.