ФорумРазделы

Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 2315

Новый комментарий
Maxim Dmitrievsky:

смотря в какую науку )

там интересные фишки от переобучения, но они их не раскрыли, а где еще почитать про это не нашел пока

наука это знания, которыми пользуются. без разницы название науки) промежуточные результаты знания не остануться)))

Maxim Dmitrievsky:

предсказание неопределенности интересная штука


У них там ссылка на статью - на первый взгляд просто обычный Байес плюс нормальные распределения.

Uncertainty in Gradient Boosting via Ensembles
  • arxiv.org
For many practical, high-risk applications, it is essential to quantify uncertainty in a model's predictions to avoid costly mistakes. While predictive uncertainty is widely studied for neural networks, the topic seems to be under-explored for models based on gradient boosting. However, gradient boosting often achieves state-of-the-art results on tabular data. This work examines a probabilistic ensemble-based framework for deriving uncertainty estimates in the predictions of gradient boosting classification and regression models. We conducted experiments on a range of synthetic and real datasets and investigated the applicability of ensemble approaches to gradient boosting models that are themselves ensembles of decision trees. Our analysis shows that ensembles of gradient boosting models successfully detect anomaly inputs while having limited ability to improve the predicted total uncertainty. Importantly, we also propose a concept of a \emph{virtual} ensemble to get the...
[Удален]
Aleksey Nikolayev:

У них там ссылка на статью - на первый взгляд просто обычный Байес плюс нормальные распределения.

только пока не понял какую кнопку нажать, чтобы для классификации результаты получались лучше

для регрессии только пример

понял, что по дефолту используется importance sampling по максимальному градиенту (типа новая фича)

или это просто встроено по дефолту и ничего делать не надо

кстати, катбуст очень крут в плане переобучения.. очень сложно заставить его переобучиться. Если датасет г... то и обучится плохо, а не запомнит все варианты
[Удален]

смотрю пока что другой видос


[Удален]
Valeriy Yastremskiy:

наука это знания, которыми пользуются. без разницы название науки) промежуточные результаты знания не остануться)))

ну там как бы со знаниями все ок, просто области применения надо смотреть

сам по себе алгоритм бустинга остается очень крутым. Если бы еще нормальных ораторов с студию
Maxim Dmitrievsky:

ну там как бы со знаниями все ок, просто области применения надо смотреть

сам по себе алгоритм бустинга остается очень крутым. Если бы еще нормальных ораторов с студию

софизмы это все ))) без промежуточных знаний, знаний не будет) на промежуточном этапе всяко бывает, на СБ похожи обычно времена перемен)))

[Удален]
Valeriy Yastremskiy:

софизмы это все ))) без промежуточных знаний, знаний не будет) на промежуточном этапе всяко бывает, на СБ похожи обычно времена перемен)))

понятно

Maxim Dmitrievsky:

только пока не понял какую кнопку нажать, чтобы для классификации результаты получались лучше

для регрессии только пример

понял, что по дефолту используется importance sampling по максимальному градиенту (типа новая фича)

или это просто встроено по дефолту и ничего делать не надо

кстати, катбуст очень крут в плане переобучения.. очень сложно заставить его переобучиться. Если датасет г... то и обучится плохо, а не запомнит все варианты

Судя по всему, мы с вами фиксируемся на разных стадиях процесса) Мне интересен процесс построения исходной вероятностной модели - если она более-менее описывает реальность, то любой более-менее осмысленный алгоритм даст результат при последующих вычислениях.

Aleksey Nikolayev:

Судя по всему, мы с вами фиксируемся на разных стадиях процесса) Мне интересен процесс построения исходной вероятностной модели - если она более-менее описывает реальность, то любой более-менее осмысленный алгоритм даст результат при последующих вычислениях.

судя по всему не так много  способных понять как правильная вероятностная модель сможет описать реальность. ))) Есть подвижки в моделях?

Иногда прокручиваю модельку игры меньшинства. Часто временами похоже на тиковый график.

Valeriy Yastremskiy:

судя по всему не так много  способных понять как правильная вероятностная модель сможет описать реальность. ))) Есть подвижки в моделях?

Иногда прокручиваю модельку игры меньшинства. Часто временами похоже на тиковый график.

Не вижу особого (практического) смысла в глобальных моделях цены, которые описывают её во всех аспектах и на всём времени. Разве что, как некая "зарядка для ума") На мой взгляд, полезными могут быть только модели, описывающие отдельные аспекты цены на отдельных временных промежутках. Как простой пример могу привести свою статью про гэпы, где исследуются только максимальные отклонения цены в сторону противоположную гэпу, до его закрытия (отдельный аспект) и, соответственно, только на промежутке времени от образования гэпа до его закрытия.

Не то чтобы это какая-то новая идея) Скорее, просто проговаривание очевидного вслух.

1...230823092310231123122313231423152316231723182319232023212322...3746
Новый комментарий