Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 2841

Новый комментарий
 
Aleksey Nikolayev #:

Вы же тоже, по сути, занимаетесь оптимизацией. Придумали некий критерий "стационарности признаков" и берёте оптимальные по нему признаки. Та же самая оптимизация на истории, только в профиль.

Вот, обязательно надо придумать критерий робастности ТС и оптимизировать по нему) Снова получится та же самая оптимизация на истории, но в другой профиль)

Замечательно, в смысле толерантности.

Приходишь в магазин, выбираешь штаны - оптимизация по фигуре!

Здесь речь совершенно о другом - о доработке имеющихся в моделях алгоритмах оптимизации. Я возражаю против доработки уже встроенных алгоритмов оптимизации. Вот есть в тестере алгоритм - прекрасно. Доработка этого алгоритма не позволит получить прибыльную ТС из сливной. То же самое встроенные алгоритмы в моделях.

Также, надо крайне осторожно относиться к оптимизации параметров модели, так как запросто можно переобучить модель.

Дошел до самой важной мысли: несомненная связь между оптимизацией и переобучением модели. Модель всегда надо оставлять достаточно "грубой" и уж точно не нужны никакие глобальные оптимумы.  


Когда я ищу приемлемый перечень предикторов - оптимизация в смысле штанов. Но смысл совершенно другой: попытка избежать "мусор на входе - мусор на выходе". Здесь качественное отличие от попыток поиска "правильного" алгоритмы, который находит глобальный оптимум. Никакой глобальный оптимум не даст прибыльную ТС на мусоре. 

 

Максим Владимирович, что вы думаете о квантовой кластеризации?

https://github.com/enniogit/Quantum_K-means

 
Aleksey Nikolayev #:

Слово "оптимизация" имеет дурную славу на нашем форуме по вполне понятным причинам. Поэтому вполне понятно стремление как-то отстраниться от неё и даже не употреблять само слово. Тем не менее, любое обучение модели МО - это практически всегда оптимизация, тут уж из песни слов не выкинешь.

Не хочу никого задевать, учить жизни или объяснять как делать бизнес) Пишу лишь питая слабую надежду, что метаквоты учтут мои замечания при внедрении МО в МТ5.


как с языка сняли... реально присутсвует негативное отношение к понятию "оптимизация".
добавлю лишь, что всегда нужно помнить - модель (ТС) первична, оптимизация вторична. если не работает модель, то оптимизация не добавит робастности.
реально существуют ТС работающие в широком диапазоне своих параметров. но даже в таких системам всётаки есть оптимальные параметры, которые дадут в итоге более высокий торговый результат. тоесть, оптимизация не может по своему определению ухудшить модель.
При построении торговой системы важна модель в первую очередь, критерии её оценки во вторую очередь и только потом идет оптимизация. противное будет в корне не верно.
если кто то говорит, что оптимизация зло, значит он не верно составил очерёдность.
только осознавая вышеозвученное можно прийти к пониманию, что как бы то ни было, невозможно МО без оптимизации.
дурную славу тестеру и оптимизатору как связке принесло как раз то, что вояют пользователи черте что и думают, что после оптимизации это гомно будет прибыльно. нет, не будет, поэтому что черте что. этому способствует легкость создания советников в МЕ и наличие готовых вариантов в поставке. но при этом практически отсутсвут инструменты оценки стратегии по созданию кластеров рабочих сетов. благо мкл сполна восполняет этот пробел.
резюмируя вышесказанное можно заключить: алгоритмы оптимизации сделают успешных людей ещё успешнее (это касается любых сфер деятельности человека), а несчастных людей ещё несчастнее, к сожалению. причина проста - неверно расставлены приорететы.
так что даже болиды формулы один тщательно оптимизируют, зачем? ведь эти тачки и так хороши)) ответ прост, оптимизируют согласно пользовательского критерия водителя болида. хотя общие характеристики болидов одинаковые, но тюнинг позволяет настроить машину например на кривую ускорений, другой водитель предпочтет выше скорость по прямой. никто из водителей болидов не думает "оптимизация гомно!, нафиг надо, буду ездить по дефолту!" - иначе проигрыш обеспечен, голодные дети, злая жена и прочие прелести неудач. 

отсюда необходимая для успеха последовательность: болид (ТС) - критерии тюнига (оценочные критерии ТС) - оптимизация.
никаких других правильных последовательностей в принципе невозможно.
 
Ещё хочу добавить что оптимизацыонные алгоритмы, это в первую очередь поисковые алгоритмы, ими не только можно параметры МАшек искать как думают многие..
Можно намного более сложные и не тривиальные вещи делать
 
Andrey Dik #:

тоесть, оптимизация не может по своему определению ухудшить модель.

Правильная мысль для систем автоматического управления, но совершенно НЕ правильная для моделей, работающих на финансовых рынках с НЕ стационарными процессами. Есть такое зло, абсолютное зло, под названием "переобучение". Это главное зло (после мусора на входе), которое полностью делает неработоспособной абсолютно любую модель. Хорошая модель всегда должна быть не совсем оптимальной, некое огрубление реальности. Думаю, что особый вклад в переобучение модели делает именно глобальный оптимум.

 
ещё один важный момент.
тогда когда чем меньше параметров тем лучше у модели в цепочке
модель - критери - оптимизация,
так как повышаются степени своьоды а это есть плохо, то повышение количества критериев или параметров крииерия наоборот, степени свободы модели снижают,выступая некими "границами". так можно и нужно компенсировать излишнюю порой вариабельность сисиемы.
что касается количества параметров АО, то я отношу в недостатки большие возможности настррйки, так как это усложняет практическое применение АО, хотя, это в умелых руках исследоваиеля, понимающего что он делает, позволяет получить дополнительные преимущества в касестве и скорости оптимизации, в некотором роде косвенно ещё больше снижая вариабельность модели, если параметров у неё излишне много. такое часто бывает в нейросетях.
 
СанСаныч Фоменко #:

Правильная мысль для систем автоматического управления, но совершенно НЕ правильная для моделей, работающих на финансовых рынках с НЕ стационарными процессами. Есть такое зло, абсолютное зло, под названием "переобучение". Это главное зло (после мусора на входе), которое полностью делает неработоспособной абсолютно любую модель. Хорошая модель всегда должна быть не совсем оптимальной, некое огрубление реальности. Думаю, что особый вклад в переобучение модели делает именно глобальный оптимум.


переобучение не следствие злоупотребления оптимизацией, а следствие неправильного выбора критерия оценки модели. ошибка сделана ещё ДО оптимизации. а вполне возможно что и на первом элементе цепочки - модель гомно.
говорить, что модель должна быть немного недоученной так же неверно, как хороший недообученный сапер или хирург. нужно винить либо сапера или хирурга, или их учителей, а не саму возможность учится (улучшаться, оптимизироваттся).
винить нестационарность так же не верно, приплетая сюда ещё и оптимизацию. это значит нет хорошей модели у исследоваиеля для нестационарнрго ряда.
 
извиняюсь, если когото обидел, окуная читающего в суровую реальность.
 

Кажется, что используются понятия с разным контекстом.

К примеру "плато" - это скорей широкий диапазон настроек способа получения внешних факторов, влияющих на логику модели. К примеру большой диапазон эффективности машек на базе которых сделан предиктор.

Оптимизация с помощью алгоритмов МО, обсуждаемая тут, занимается построением логики принятия решений, а оптимизация в тестере стратегий занимается, как правило, настройкой входных данных, а логика принятия решений уже прописана и в лучшем случае имеет вариативность.

Эти два вида оптимизации разные - одна меняет пространство, а другая взаимосвязи в нём.

Сейчас я задался вопросом, что в первую очередь нужно настраивать - признаки/предикторы или искать модель, а потом в оптимизаторе терминала искать оптимальные настройки. Хотя, искать настройки крайне сложно, если входных данных очень много.

Можно ли сразу при обучении менять пространство и логику, может стоит подумать, как это сделать?

СанСаныч Фоменко , стоит ли ожидать выборку?

 
Andrey Dik #:

переобучение не следствие злоупотребления оптимизацией, а следствие неправильного выбора критерия оценки модели. ошибка сделана ещё ДО оптимизации. а вполне возможно что и на первом элементе цепочки - модель гомно.
говорить, что модель должна быть немного недоученной так же неверно, как хороший недообученный сапер или хирург. нужно винить либо сапера или хирурга, или их учителей, а не саму возможность учится (улучшаться, оптимизироваттся).
винить нестационарность так же не верно, приплетая сюда ещё и оптимизацию. это значит нет хорошей модели у исследоваиеля для нестационарнрго ряда.

Теперь понятно. У Вас поверхностное знакомство с моделями из машинного обучения.

Первый элемент цепочки - препроцессинг, который занимает от 50% до 70% трудозатрат. Здесь определяется будущий успех.

Второй элемент цепочки - обучение модели на наборе train.

Третий элемент цепочки - исполнение обученной модели на наборе test. Если результативность модели на этих наборах отличается хотя бы на треть, то модель переобучена. Получаешь такое через раз, если не чаще. Переобученная модель - это модель слишком точная модель. Извините, азы. 

1...283428352836283728382839284028412842284328442845284628472848...3745
Новый комментарий