Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 3479
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Если смотреть по среднему logloss 100 моделей:
train был 0,518 стал 0,448
test был 0,543 стал 0,555
exam был 0,560 стал 0,570
Т.е. по 2 и 3 выборке результат сопоставим, а вот на первой выборке быстрей происходит обучение/обобщение после преобразования.
0.57/0.448 = 1.2723, т.е. разница в 27%. модель можно выбросить.
Даже не знаю, были ли уже тогда синонимы в его родном языке...
Синонимы - это где-то в стихах в романах. А вот в точных науках синонимов не бывает. Хотя полно дилетантов, которые не знают точного значения терминов... и начинаю гнать отсебятину.
Вот я подумал, и упорядочил значения по смещению вероятности после квантования, обучение стало проходить в раз 7 быстрей - вместо 400 деревьев - всего 60, но значительно ухудшился финансовый результат на двух остальных выборках. Получается, что из-за хауса распределения вероятности принадлежности к классу случайно удаётся обучаться чуть лучше.
Вот и результат вашего перемешивания. По сути - внесли дополнительный шум. Примерно как Features Permutation Importance метод оценки предикторов, который перемешивает столбец, там самым делая его шумом. Вы его тоже перемешали, но блоками/квантами.
Синонимы - это где-то в стихах в романах. А вот в точных науках синонимов не бывает. Хотя полно дилетантов, которые не знают точного значения терминов... и начинаю гнать отсебятину.
Да даже если не отсебятину, а что то умное гнать самопридумаными терминами то понимания не наступит
Вот и результат вашего перемешивания. По сути - внесли дополнительный шум. Примерно как Features Permutation Importance метод оценки предикторов, который перемешивает столбец, там самым делая его шумом. Вы его тоже перемешали, но блоками/квантами.
При чём тут шум? Я упростил обучение для алгоритма. Алгоритм стал использовать меньше сплитов/деревьев для прихода к "тому же" результату.
0.57/0.448 = 1.2723, т.е. разница в 27%. модель можно выбросить.
Я бы может и согласился, если бы мы о стационарных системах говорили и имели репрезентативную выборку. Иначе - это пустая эвристика, под которую можно легко подогнаться.
При чём тут шум? Я упростил обучение для алгоритма. Алгоритм стал использовать меньше сплитов/деревьев для прихода к "тому же" результату.
Какой же это тот же результат?
перемешивание столобца зашумляет его. Вы же сами написали, что значительно ухудшился финансовый результат на двух остальных выборках
Какой же это тот же результат?
Зашумление могло бы быть при случайном изменении. Тут мы, фактически, переименовываем информацию. Как известно, CatBoost делает сплиты по квантовой таблице, полученной единожды. Т.е. у нас получаются дискретные многогранные (по числу измерений) кубики с содержимым диапазоном значений. Дерево занимается тем, что Группирует их по одной из граний или набором - как они идут по порядку.
Изначально кубики разбросаны без порядка, а я их просто сразу сгруппировал.
Как я уже ранее показывал, вероятнось выбрать правильный кубик в пределах 20% в этой выборке. Так вот, получается, что при сложной структуре расположения кубиков приходится больше делать итераций, чем при упорядоченным, что случайно позволяет найти некие сложные зависимости, но ухудшает эффективность обучение. Эффективность тут - прирост показателя logloss от итерации к итерации.
По поводу результата - на выборке train все вполне хорошо даже в финансовом плане, а вот на выборках test и exam модель очень редко выдаёт вероятность больше 0,5, поэтому там в основном нули.
Попробую снизить темп обучения, но пока природа не совсем ясна этого явления, ведь по logloss результат сопоставим.
Зашумление могло бы быть при случайном изменении. Тут мы, фактически, переименовываем информацию. Как известно, CatBoost делает сплиты по квантовой таблице, полученной единожды. Т.е. у нас получаются дискретные многогранные (по числу измерений) кубики с содержимым диапазоном значений. Дерево занимается тем, что Группирует их по одной из граний или набором - как они идут по порядку.
Между собой кубики/кванты изначально отсортированы. Вы меняете их порядок, т.е. перемешиваете. ООС вам это явно показывет. Закономерности не найдены. А трейн на любом мусоре обучится хорошо.
Между собой кубики/кванты изначально отсортированы. Вы меняете их порядок, т.е. перемешиваете. ООС вам это явно показывет. Закономерности не найдены. А трейн на любом мусоре обучится хорошо.
Обучение, это правила по выделению кубиков. Порядок их задан алгоритмом предиктора. От того, что я их поменял местами - информация не пропала. Мой алгоритм отыщет все кубики, а для дерева это становится важным изменением, так как алгоритм работает не с одним кубиком, а сразу с группой, и для него поменялось содержимое группы кубиков. Режа сплитами группы на подгруппы он будет выбирать разные изменения для разреза через сплит, так как статистика групп поменялась.
Нужна более насыщенная закономерностями выборка для проверки этой гипотезы.