Где грань между подгонкой и реальными закономерностями? - страница 54

 
Vigor:
Подавляющее большинство трейдеров сливают, это закономерность? Да. Подгонка есть? Нет. Грань однако. Можно на этом заработать? Да. Осваивайте профессию шеф-повара.

ха- ха -ха.... Не смешно.
 

У меня тут случайно вышел еще один тематический эксперимент, результаты которого еще пока даже не придумал как оценить)

Оптимизировал советник и случайно подсунул ему файл сосершенно не с теми данными для анализа. Т.е. Советник в процессе оптимизации торговал на данных ноября 2010 года, при этом анализировал данные откуда-то из 2009 года (вряд ли там есть значимая корреляция) и на основе их открывал сделки. В результате обучения получил результат 1000 старых пипсов прибыли чистой подгонки (анализировали одно, торговали совсем другое). Понял ошибку, провел оптимизацию с правильными данными - результат 2000 пипсов. Вот теперь думаю, как бы научиться вычленять подгоночную составляющию из результатов обучения, имея чистую подгонку и подгонку+закономерности.

И вообще сам подход: анализировать одно, торговать другое, не позволит ли нам определить "гонимость" эксперта?

 
Figar0:
.........

И вообще сам подход: анализировать одно, торговать другое, не позволит ли нам определить "гонимость" эксперта?

Так же всегда все и делают. Анализируют историю - одно, торгуют в реале - другое.

Или, а скорее всего без или, я ничего не понял.

 
joo:

Так же всегда все и делают. Анализируют историю - одно, торгуют в реале - другое.

Или, скорее всего без или, я ничего не понял.

Картина несколько другая, поясню что у меня получилось: допустим, эксперт использует машку с периодом от 1 до 200, и открывается в сторону ее направления от 2го к 1му бару, MA[1]>MA[2] - покупка, MA[1]<MA[2] - продажа.

Мы ошиблись в цифирях, и условия у нас стало такое MA[1000001]>MA[1000002] - покупка, MA[1000001]<MA[1000002], т.е. поведение машки на миллионных барах ну никак не описывает текущую ситуацию когда эксперт открывает сделку. Условие эксперта "пустышка", плацебо. Однако почти наверняка мы найдем период машки при котором мы получим прибыль на периоде обучения. Что и будет чистой воды голой погонкой. Я вот про это говорил. Хотя столь примитивные эксперт с малым количеством степеней свободы так извращать наверно бесмысленно. Но представьте на его месте НС, входы которые тоже никакак не связаны с реалиями на периоде обучения (например двоичная последовательность битов из цифровой копии видеофильма о жизне пингвинов)? Заставляем эксперт получить прибыль на этапе обучения из ничего, сознательно подгоняем и пытаемся оценить насколько он подгоняем. Как-то так... Затем даем уже правильные данные, описывающие ситуацию на момент принятия решения экспертом на все том же периоде обучения. И тоже получаем результат. Вертим эти два результата, пытаясь понять подгоняемость эксперта, информативность входов, возможность обнаружения закономерностей и т.д.

Ох прям и не знаю, стало ли понятнее)

 
Figar0:

Картина несколько другая, поясню что у меня получилось: допустим, эксперт использует машку с периодом от 1 до 200, и открывается в сторону ее направления от 2го к 1му бару, MA[1]>MA[2] - покупка, MA[1]<MA[2] - продажа.

Мы ошиблись в цифирях, и условия у нас стало такое MA[1000001]>MA[1000002] - покупка, MA[1000001]<MA[1000002], т.е. поведение машки на миллионных барах ну никак не описывает текущую ситуацию когда эксперт открывает сделку. Условие эксперта "пустышка", плацебо. Однако почти наверняка мы найдем период машки при котором мы получим прибыль на периоде обучения. Что и будет чистой воды голой погонкой. Я вот про это говорил. Хотя столь примитивные эксперт с малым количеством степеней свободы так извращать наверно бесмысленно. Но представьте на его месте НС, входы которые тоже никакак не связаны с реалиями на периоде обучения (например двоичная последовательность битов из цифровой копии видеофильма о жизне пингвинов)? Заставляем эксперт получить прибыль на этапе обучения из ничего, сознательно подгоняем и пытаемся оценить насколько он подгоняем. Как-то так... Затем даем уже правильные данные, описывающие ситуацию на момент принятия решения экспертом на все том же периоде обучения. И тоже получаем результат. Вертим эти два результата, пытаясь понять подгоняемость эксперта, информативность входов и т.д.

Ох прям и не знаю, стало ли понятнее)

Вапче тема прикольная.

Очевидно, что достаточно сложный набор перестраиваемых функций можно путём подгонки параметров отображения заставить отображать любое случайное множество на любое другое множество (случайное или не очень). Теоретически с любой степенью точности... :)

Трейдеров в ДЦ (и не только) тоже обучают торговать подобным образом: достаточно случайный поток показаний стандартных (читай - неработающих) индикаторов учат переводить в поток торговых операций... :-) ... .. // или :-( ... ?

А вот недавно случай был: оптимизировал я советника на хитрых индюках, у которых есть несколько режимов работы. Режимы параметризуемые (каждый по своему). Ну и поставил на оптимизацию параметры не того режима. Т.е. эти параметры НИКАК не влияли на работу советника в текущем режиме работы индикаторов.

// Вовремя я свою плюху не обнаружил, ибо кроме неработающих параметров оптимизировалась ещё парочка работающих. Поэтому оптимизация прошла до конца.

Любопытный результат: эти (не работающие) параметры постепенно сошлись к конкретным значениям и до конца оптимизации больше не менялись. Т.е. вели себя псевдоосмысленным образом, как если бы они действительно оптимизировались... (!!!) Если б я не был автором эксперта, я б решил что это и есть Те Самые Точные-Оптимальные-Граальные-итп значения которые нужно тщательно сохранить (желательно в тайне от общественности) и юзать, юзать, юзать...... И ни в коем случае не менять !

Когда я эт дело увидел-осознал, грустно подумалось - вот это и есть точный механизм создания суеверий, коими наполнена-пронизана вся наша несусветная жизнь, и форекс в особенности.. ;-)

------------------

А что до предложения изучать системы на "подгоняемость" - не стоит оно того, по моему. Понятно же - хорошая система хорошо подгоняема. Но кроме того и абстрагировать умеет. Плохая система может быть плохо-подгоняемой и хорошо-подгоняемой. При этом абстрагировать не умеет. Т.е. подгоняемость вряд ли может служить критерием качества системы (способности к обобщениям).

Уж лучше юзать известную фишку с подмешиванием случайного сигнала малой амплитуды на этапе обучения, дабы уменьшить подгоночные явления. С этого практической пользы больше.

 
Figar0:

Картина несколько другая, поясню что у меня получилось: допустим, эксперт использует машку с периодом от 1 до 200, и открывается в сторону ее направления от 2го к 1му бару, MA[1]>MA[2] - покупка, MA[1]<MA[2] - продажа.

Мы ошиблись в цифирях, и условия у нас стало такое MA[1000001]>MA[1000002] - покупка, MA[1000001]<MA[1000002], т.е. поведение машки на миллионных барах ну никак не описывает текущую ситуацию когда эксперт открывает сделку. Условие эксперта "пустышка", плацебо. Однако почти наверняка мы найдем период машки при котором мы получим прибыль на периоде обучения. Что и будет чистой воды голой погонкой. Я вот про это говорил. Хотя столь примитивные эксперт с малым количеством степеней свободы так извращать наверно бесмысленно. Но представьте на его месте НС, входы которые тоже никакак не связаны с реалиями на периоде обучения (например двоичная последовательность битов из цифровой копии видеофильма о жизне пингвинов)? Заставляем эксперт получить прибыль на этапе обучения из ничего, сознательно подгоняем и пытаемся оценить насколько он подгоняем. Как-то так... Затем даем уже правильные данные, описывающие ситуацию на момент принятия решения экспертом на все том же периоде обучения. И тоже получаем результат. Вертим эти два результата, пытаясь понять подгоняемость эксперта, информативность входов, возможность обнаружения закономерностей и т.д.

Ох прям и не знаю, стало ли понятнее)

Мало того, что для оптимизируемого интервала истории всегда существует МА, при котором ТС будет прибыльной, так, внимание... их этих МА может быть несколько.

Таким образом вполне может быть ситуация как у Вас. Т.е. Параметры системы, ничего общего не имеющие с закономерностями рынка, прибыльны на разных участках истории, и даже могут быть прибыльны какое то время в будущем. А могут и не.

Для этого, как раз и делили ТС-ки на два типа. Второй тип либо даст прибыль, либо нет. Проверить легко. А первый тип - хз, как проверишь?

На мой взгляд, не стоит искать грань между подгонкой и не. Нужно сразу концентрироваться на ТС, где этой грани нет вообще. Как то так. По крайней мере, будет ощущение, что грани нет и найдены закономерности. Ну а как иначе? Гарантий нет и не будет. Будет вечное условие неопределенности и вечное право выбора. :)

Не знаю, понятно ли.

И правильно ли я понял на этот раз. :)

 
MetaDriver:

А что до предложения изучать системы на "подгоняемость" - не стоит оно того, по моему. Понятно же - хорошая система хорошо подгоняема. Но кроме того и абстрагировать умеет. Плохая система может быть плохо-подгоняемой и хорошо-подгоняемой. При этом абстрагировать не умеет. Т.е. подгоняемость вряд ли может служить критерием качества системы (способности к обобщениям).




Ну так это ж не самоцель, проверка на подгоняемость, это просто блуждание мысли в поисках "грани") Мне практические результаты как-то ближе. Мысль формируется примерно такая : имеем два результата обучения на одном куске истории, подгонка (P1) и подгонка+закономерности (P2).

P1 ~= P2:

- ТС обладает избыточной обощающей способностью для поиска закономерностей для которых она предназначена (например в НС - убираем 1 слой, делаем меньше скрытых нейронов, берем другую функцию активации и т.д.), иначе выделить результат эксплуатирующий закономерности будет кране сложно. Или все проще, наши закономерности совсем никакие не закономерности.

2*Р1< P2:

- то что нужно, имеет смысл возиться с ТС, лучший результат обучения с большой вероятностью будет способен обнаруживать закономерности.

Вот такие цепочки для практического применения я и пытаюсь выстроить. И мне кажется для некоторых моих ТС это возможно будет работать.

joo:

И правильно ли я понял на этот раз. :)


Ну наверно что-то уже рядом) А то я уж сам испугался своей способности выражать мысли.

 

1) Подгонять, чтобы пользоваться эффетом последействия(инерции свойств рынка)?

2) Не подгонять, чтобы пользоваться эффектом отсутствия ложной оптимизации?

Противоречие?


Есть и другие варианты :)

 
-Aleksey-:

1) Подгонять, чтобы пользоваться эффетом последействия(инерции свойств рынка)?

2) Не подгонять, чтобы пользоваться эффектом отсутствия ложной оптимизации?

Противоречие?


Есть и другие варианты :)

Эффект отсутствия ложной оптимизации.. Чуть моск не поломал.

1) Свойство инерции рынка. На ней держится весь ТА. ТА делает предположение, что некий процесс, будучи начавшимся (при этом совершенно неизвестно, когда), будет продолжатся (как долго тоже неизвестно. Абсолютно типичный пример: МА200, цена пересекла скользкую машку вниз, входим в Sell в надежде, что цена продолжит движение в низ. А цена не идет, ей пофиг МА200, тут же разворачивается и двигается вверх. Ждем. Цена движется вверх и пересекла МА200 вверх - это сигнал Buy - жена обламывается с новой шубой).

Тоже самое относится и каналам, уровням и т.п.

2) Свойство причинности. Если есть цепь событий заданной наперед последовательности и длины, то есть и ответная цепь событий, так же наперед известной последовательности и длины. Методом оптимизации выявляются закономерности влияния изменений причинной цепи событий на следственную цепь событий. Тут всё просто - либо находим закономерности, либо нет, легко проверить, легко использовать.

Предлагайте те самые другие варианты.

 

joo:

2) Свойство причинности. Если есть цепь событий заданной наперед последовательности и длины, то есть и ответная цепь событий, так же наперед известной последовательности и длины. Методом оптимизации выявляются закономерности влияния изменений причинной цепи событий на следственную цепь событий. Тут всё просто - либо находим закономерности, либо нет, легко проверить, легко использовать.

Продолжаем цикл "разум одураченный случайностью" или "творческое безумие генетических механизмов Жизни". ;-)

Отрывок из книги про обучение при помощи плюс-подкреплений. Карен Прайор "Не рычите на собаку".

// Вся книга в прицепе. Рекомендую.

Суеверия: случайные подкрепления

В реальной жизни подкрепления возникают на каждом шагу и часто представляют собой лишь случайное стечение обстоятельств. Один биолог, изучавший ястребов, заметил, что если ястреб поймал под каким-либо кустом мышь, то в течение недели, а иногда и больше, он будет ежедневно проверять этот куст; вероятность его полета именно над этим местом обусловлена силой подкрепления. Попробуйте пройти мимо мусорной корзины, тщательно к ней не приглядываясь, если накануне - нашли в ней пять долларов. Случайное подкрепление полезно для ястреба; вообще можно сказать, что поведение животных эволюционировало так, что каждый вид обладает возможностью извлекать пользу из любого подкрепления. Однако многие случайные подкрепления не сопровождаются полезным результатом, но тем не менее могут оказать сильное влияние на поведение. Когда поведение не связано с последующими событиями, но в мозгу субъекта связывается с ними в качестве необходимого условия их осуществления, говорят о суеверном поведении. Пример этого -- человек, грызущий карандаш. Если во время экзамена вам случится взять в рот карандаш и тут же вам придет в голову правильный ответ или хорошая мысль, то такое подкрепление может изменить ваше поведение: хорошие мысли пришли, когда грыз карандаш, таким образом, это действие подкрепляется. Когда я училась в колледже, у меня не было ни одного карандаша, не покрытого отметинами от зубов, -- на особенно трудных экзаменах я иногда перегрызла карандаш пополам. Я была уверена, что это помогало мне думать. В действительности же это было всего лишь случайно обусловленное поведение. То же самое можно сказать отношении определенной одежды или совершении некого ритуала перед тем как взяться за какое-либо дело. Я видела одного бейсболиста, который совершал девятичленную цепочку действий каждый раз, когда готовился подать мяч: дотрагивался до кепки, касался мячом перчатки, сдвигал кепку вперед, тер ухо, сдвигал кепку назад, шаркал ногой и т.д. В трудные моменты он мог повторить все девять действий дважды, никогда не нарушая их порядок: Эта последовательность действий совершалась очень быстро, комментаторы никогда не останавливались на ней -- но тем не менее она представляет собой сложное суеверное поведение. "Суеверия" часто возникают при дрессировке животных. Животное может руководствоваться в своих ответах такими критериями, которые вы и не собирались вводить, но которые часто случайно совпадали с подкреплениями и образовали условную связь. Например, животное может считать, что чтобы получить подкрепление, оно должно находиться в определенном месте, повернуться в какую-либо сторону или особым образом сидеть. Когда вы захотите, чтобы оно работало в новом месте или при другой ориентации, внезапно загадочным образом все поведение ломается, и пойди пойми почему это произошло. Поэтому гораздо лучше, как только поведение начинает формироваться, начинать разнообразить варианты условий, которые не представляются вам важными, чтобы не возникло какого-либо случайного обусловливания, которое впоследствии будет вам мешать. Более всего следите, чтобы не образовывались случайные временные связи. Как животное, так и люди очень хорошо чувствуют временные интервалы. Однажды я была совершенно уверена, что обучила двух морских свинок прыгать по команде (по сигналу моей руки), пока один из посетивших нас ученых не доказал мне с секундомером в руке, что они прыгают каждые двадцать девять секунд. Это у меня произошло случайное обусловливание подачи команды с очень большой регулярностью, а они воспользовались этим вместо той информации, которой они должны были пользоваться по моему предположению. Многие потомственные дрессировщики находятся просто в плену суеверного способа мышления и поведения. Среди них я встречала некоторых, которые говорили, что дельфины предпочитают людей, одетых в белое, что мулов необходимо бить, что медведи не любят женщин и т.д. Это относится и к тем, кто работает с людьми и считает, например, что на пятиклассников необходимо кричать и что наказание необходимо, чтобы добиться уважения. Такие воспитатели находятся во власти традиции, они вынуждены всегда работать одними и теми же способами, так как не могут разделить действенных методов от того, что является просто суеверием. Эта слабость, или смешение, обнаруживается у представителей многих профессий -- в образовании, технике, военном деле, но в большей мере, пожалуй, в медицине. Ужас сколько всего назначается пациенту не потому, что это обладает целебными свойствами, а просто потому, что так всегда делали или все сейчас делают. Каждый, кто хоть раз лежал в больнице, может вспомнить с полдюжины примеров ненужных действий, которые представляют собой не более как суеверное поведение. Интересно, что суеверное поведение не исчезает, если вы просто указываете на его неэффективность; будучи очень сильно заученным, оно соответственно сильно оберегается. Попробуйте поговорить с врачом о его привычке использовать неэффективное или даже вредное лечение, и вы полу чите отпор в соответствующих выражениях; я уверена, что и тот бейсболист с девятиступенчатым суеверным выражением нервного возбуждения будет яростно противиться всякому, кто предложит ему играть в мяч, скажем, без кепки, до которой он четырежды дотрагивается. Единственный способ избавиться от суеверного поведения -- это убедиться, что оно не связано с подкреплением. Мой сын Тэд очень любит фехтование. Два-три раза в неделю он ходит на тренировку, а по выходным часто ездит на соревнования. Однажды во время поединка с сильным партнером он почувствовал себя подавленным, потому что оставил дома свою любимую шпагу. Он проиграл матч. Потом он понял, что ощущение подавленности, очевидно, гораздо больше влияет на его действия, чем та шпага, которой он пользуется, а следовательно, иметь "любимую" шпагу-- суеверие. Тэд выявлял и боролся с любым суеверным поведением, которое могло бы связаться с фехтованием. Он обнаружил у себя много таких пунктиков, начиная с привязанности к некоторым предметам одежды до внутреннего убеждения, что на его бой может повлиять приснившийся сон, спор или даже отсутствие фруктового сока на соревнованиях. Систематически анализируя каждое из этих обстоятельств, он разорвал одну за другой свою зависимость от них, так как понял, что это суеверия. И в результате теперь он выходит на каждый бой спокойным и уверенным, если даже перед этим ему снился кошмар про опоздание на поезд, потерю снаряжения, баталии с таксистами, если даже он фехтует одолженной шпагой в тренировочном костюме и в разных носках.

Файлы:
Причина обращения: