Есть ли разница, сразу проверить смещение вероятности на отложенной выборке, или построить модель и оценить эффект через модель?
Я вот думаю, и не вижу разницы - если смещение вероятности есть на новых данных, то модель будет работать на них, а если нет, то нет...
Лучше сразу модель проверять, а ещё лучше - ТС. Что ближе всего к торговле, то и проверять.
Смещение вероятности само по себе ни о чем не говорит, потому что зависит от кол-ва сэмплов. Какой у вас уровень значимости при 10 семплах? Никакой. Тогда что вы отбираете? Как пример.
Если не говорит, то зачем отбираете по нему метки для переразметки?
Вы семплируете тестовую выборку? На сколько кусков?
Я не отбираю по нему метки, вы неправильно все понимаете.
У вас в головах укореняется ваш прошлый опыт и вы не видите как это работает в реальности, а смотрите через него. По типу есть знакомые слова - значит одно и то же.
Я же все написал выше. И уже от нескольких слушаю советы и идеи, которые не относятся к данному методу.
Наверное, это был мой последний инсайт на этом зацветшем (начиная с мудираторов) форуме.
Maxim Dmitrievsky #: Я не отбираю по нему метки, вы неправильно все понимаете.
У вас в головах укореняется ваш прошлый опыт и вы не видите как это работает в реальности, а смотрите через него. По типу есть знакомые слова - значит одно и то же.
Я же все написал выше. И уже от нескольких слушаю советы и идеи, которые не относятся к данному методу.
Разве через кластера не отбираются строки с метками, которые в зависимости от смещения вероятности все помечаются 0 или 1?
Maxim Dmitrievsky #: Это сведение к общему виду, которое ничего не гарантирует. Для этого там добавлены настройки, сколько и чего исправлять.
Не гарантирует, но, если на новых данных смещение вероятности не подтвердится, то агрегировали случайный мусор в кластер, а значит обучение гарантированно будет хуже, чем если бы там был не мусор.
Поэтому и думаю, что если сразу проверить, то это сократит время на весь этот цикл.
Придумываю стратегии, чисто из наблюдений за рынком - для разметки и обучения.
Стратегии простые - в основном пару параметров значимых.
Прогоняешь вот это в тестере и находятся результаты, которые прибыльные на трейне и тесте - как форвард так и бэкворд истории. Понимаю, что всё это статистически ошибки... но это в паре параметров, а что же в модели творится...
Не гарантирует, но, если на новых данных смещение вероятности не подтвердится, то агрегировали случайный мусор в кластер, а значит обучение гарантированно будет хуже, чем если бы там был не мусор.
Поэтому и думаю, что если сразу проверить, то это сократит время на весь этот цикл.
No
Совсем другой принцип, совсем другие цели.
Целое больше, чем сумма его частей. Не надо вырывать из контекста. Так вы не увидите слона.
Суть изначально написана: уменьшить переобученность классификаторов, что как бы автоматически подразумевает улучшение на новых данных. С учётом того, что хоть какие-то закономерности имеются, но из-за переобученности их не видно.
Случайная разметка сделок создаёт много шума и противоречий. Метод избавления от противоречий указан Буддой.
Через настройки можно регулировать и смотреть что получилось.
Если метод вообще ничего не показывает в плане выравнивания результатов на трейн/тест даже при исправлении всех кластеров, значит в данных нет альфы.
Есть ли разница, сразу проверить смещение вероятности на отложенной выборке, или построить модель и оценить эффект через модель?
Я вот думаю, и не вижу разницы - если смещение вероятности есть на новых данных, то модель будет работать на них, а если нет, то нет...
Лучше сразу модель проверять, а ещё лучше - ТС. Что ближе всего к торговле, то и проверять.
Если не говорит, то зачем отбираете по нему метки для переразметки?
Вы семплируете тестовую выборку? На сколько кусков?
Если не говорит, то зачем отбираете по нему метки для переразметки?
Вы семплируете тестовую выборку? На сколько кусков?
Я не отбираю по нему метки, вы неправильно все понимаете.
Разве через кластера не отбираются строки с метками, которые в зависимости от смещения вероятности все помечаются 0 или 1?
Разве через кластера не отбираются строки с метками, которые в зависимости от смещения вероятности все помечаются 0 или 1?
Это сведение к общему виду, которое ничего не гарантирует. Для этого там добавлены настройки, сколько и чего исправлять.
Не гарантирует, но, если на новых данных смещение вероятности не подтвердится, то агрегировали случайный мусор в кластер, а значит обучение гарантированно будет хуже, чем если бы там был не мусор.
Поэтому и думаю, что если сразу проверить, то это сократит время на весь этот цикл.
Придумываю стратегии, чисто из наблюдений за рынком - для разметки и обучения.
Стратегии простые - в основном пару параметров значимых.
Прогоняешь вот это в тестере и находятся результаты, которые прибыльные на трейне и тесте - как форвард так и бэкворд истории. Понимаю, что всё это статистически ошибки... но это в паре параметров, а что же в модели творится...
Не гарантирует, но, если на новых данных смещение вероятности не подтвердится, то агрегировали случайный мусор в кластер, а значит обучение гарантированно будет хуже, чем если бы там был не мусор.
Поэтому и думаю, что если сразу проверить, то это сократит время на весь этот цикл.
No
Совсем другой принцип, совсем другие цели.No
Совсем другой принцип, совсем другие цели.Значит мы видим суть по разному. Ладно.
Значит мы видим суть по разному. Ладно.