Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 2110

Aleksey Vyazmikin:

Выбор правильного разбиения существенно влияет на результат.

Вот пример по Recall - до 50% разброс - для меня это существенно.

Увеличение границ с 8 до 512 с шагом 512 - правда на гистограмме не по порядку - у меня названия немного этому препятствуют.


Пока экспериментирую с подбором сеток, но уже очевидно, что есть разные предикторы для которых нужны разные сетки, что б соблюдать логику, а не только подгонятся.

Берите 65535 квантов и не парьтесь. Вычисления будут максимально точными.

Aleksey Vyazmikin:

Вот эти сложные и интересуют :)

А по  UniformAndQuantiles теорию я знаю, а вот как это в реале не понимаю - как определить область где так квантуем, а где сяк. Тут не понимаю - или до середины одним методом, а после другим - но это бредово.

Да

elibrarius:

1) Так и происходит. Берется отдельный столбец сортируется и разделяется на кванты.

2) Именно так он и делает, - с чего вы взяли?

Он не умеет оценивать связь целевой и набора значений при квантовании. Разбиение сетки происходит на заданное число отрезков, если это возможно, для всех предикторов, а это не всегда нужно. Зато CatBoost умеет работать с подаваемой (отдельно  подготовленной) сеткой квантования, чем я и пользуюсь.

elibrarius:

Берите 65535 квантов и не парьтесь. Вычисления будут максимально точными.

Нет же, это будет подгонка просто, а не модель со смыслом!

elibrarius:

Да

Весьма странно.

Aleksey Vyazmikin:

Он не умеет оценивать связь целевой и набора значений при квантовании. Разбиение сетки происходит на заданное число отрезков, если это возможно, для всех предикторов, а это не всегда нужно. Зато CatBoost умеет работать с подаваемой (отдельно  подготовленной) сеткой квантования, чем я и пользуюсь.

А вы умеете?

Aleksey Vyazmikin:

Нет же, это будет подгонка просто, а не модель со смыслом!

Не согласен. Квантованием вы уменьшаете количество информации. Максимальное число квантования оставит максимум информации.

Но квантовать на 65535 дольше чем на 255.

elibrarius:

А вы умеете?

Да, я работаю над этим - изначально это делалось для генетических деревьев.

Необходимо оценивать распределение информации по выборке и её связь с целевой. Я смотрю на то, как уменьшается ошибка на конкретном участке квантования и какой процент примеров она содержит - сбалансированность этих показателей позволяет отобрать лучшие разбиения.

elibrarius:

Не согласен. Квантованием вы уменьшаете количество информации. Максимальное число квантования оставит максимум информации.

Но квантовать на 65535 дольше чем на 255.

Зря, что несогласны - информации там мало и её надо отделить от шума. Нам (мне) нужны устойчивые зависимости, а не те, что повторяются раз в 5 лет и поэтому по ним недостаточно просто статистики для оценки их склонности к конкретной целевой, использование недостаточного числа примеров приводит просто к подгонке.

Aleksey Vyazmikin:

Да, я работаю над этим - изначально это делалось для генетических деревьев.

Необходимо оценивать распределение информации по выборке и её связь с целевой. Я смотрю на то, как уменьшается ошибка на конкретном участке квантования и какой процент примеров она содержит - сбалансированность этих показателей позволяет отобрать лучшие разбиения.

Как вы оцениваете ошибку при квантовании. Её же можно получить только прогнав обучение, причем сразу по всем столбцам, а не по каждому, квантуемому вы настоящий момент.