Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 3633

[Удален]  

Похоже, что оптимизаторщики в случае неудачи на ценовых данных начинают оптимизировать ф-ии, а термин нестационарность был известен еще до их попыток )

это все из-за каши в голове и неправильного применения инструментов.

отличный пример - методы обработки цифорвых сигналов, неприменимые для нестационарных процессов.

второй отличный пример - оптимизация левых функций, не относящихся к трейдингу

 
Maxim Dmitrievsky #:
Функция периодическая и стационарная. Легко предсказывается.

Maxim Dmitrievsky #:
Нет никакого смысла предсказывать какой-то кусок какой-то функции, потому что для разных ф-й может понадобиться свой препроцессинг, это не задача МО в чистом виде, а задача препроцессинга. 

Сначала "с легкостью" решил задачу, а потом заявил что нет смысла.))

Что мешало тому танцору в задаче использовать препроцессинг известно только танцору.😁

[Удален]  
Andrey Dik #:

Сначала "с легкостью" решил задачу, а потом заявил что нет смысла.))

Кто мешал тому танцору в задаче использовать препроцессинг известно только танцору.😁

Я добавил репрезентативных данных и все предсказывается. Но нет смысла предсказывать по ограниченному набору данных. Простой препроцессинг использовался. Вопросы?
То есть понимание как работает МО не приходит?
[Удален]  
Модель предсказывает? Предсказывает. Вопросы?
 
Andrey Dik #:

Так об этом речь и шла выше. Проблема на реальных задачах всегда в том, что неизвестен участок процесса, где достоверно известно, что содержится полные периоды. Я привел такой простой пример, где неизвестен полный период функции, но требуется предсказание следующего участка за обучающим. И, выше говорил, что даже на в этом простом примере существует такой сет сети, который сможет предсказывать следующий участок процесса. Смысл в том, чтобы найти этот правильный сет сети. Методы МО не решают эту задачу достоверно, отсюда и проблемы на новых неизвестных данных.

Думаю, Вы поняли, что всё ж таки участники ветки хорошо понимают это?

Так какой метод предлагаете Вы, для достоверного решения поставленной вами задачи?

 
Aleksey Vyazmikin #:

Думаю, Вы поняли, что всё ж таки участники ветки хорошо понимают это?

Так какой метод предлагаете Вы, для достоверного решения поставленной вами задачи?

Нет, я понял, что понимают далеко не все участники ветки, вы один из тех, кто похоже, понимает, судя по всему.

Мотивации давать готовые решения по вопросам робастности у меня нет, доказывать что-либо тоже нет желания. Вы понимаете, сабер понимает, ещё несколько людей прочитают, задумаются - это уже хорошо.

 

Для общего развития -  кому лень задать вопрос чатгпт, который также является алгоритмом машинного обучения



можно спрогнозировать аналитическую функцию с помощью мо

Для прогнозирования аналитической функции с помощью метода наименьших квадратов (МНК) можно выполнить следующие шаги:

  1. Сбор данных:

    • Соберите набор данных, включающий значения x и соответствующие им значения y.

  2. Выбор модели:

    • Определите, какая модель лучше всего подходит для ваших данных. Это может быть линейная, квадратичная или более сложная функция.

  3. Аппроксимация данных:

    • Для линейной функции:

      y = a * x + b

    • Для квадратичной функции:

      y = a * x^2 + b * x + c

  4. Метод наименьших квадратов:

    • Для линейной функции:

      a = \frac{\sum(x_i - \bar{x})(y_i - \bar{y})}{\sum(x_i - \bar{x})^2} b = \bar{y} - a \cdot \bar{x}

    • Для квадратичной функции:

      a = \frac{\sum(x_i^2 - \bar{x}^2)(y_i - \bar{y})}{\sum(x_i^2 - \bar{x}^2)^2} b = \frac{\sum(x_i - \bar{x})(x_i^2 - \bar{x}^2)(y_i - \bar{y})}{\sum(x_i - \bar{x})^2} c = \bar{y} - a \cdot \bar{x}^2 - b \cdot \bar{x}

  5. Оценка точности:

    • Используйте относительную ошибку аппроксимации и средний квадрат ошибки для оценки точности модели.

  6. Прогнозирование:

    • Используйте полученную аналитическую функцию для прогнозирования будущих значений на основе известных данных.


Уточняем:

интересует машинное обучение а не метод наименьших квадратов


Машинное обучение — это класс методов искусственного интеллекта, которые не решают задачу напрямую, а обучаются за счёт применения решений множества сходных задач. Для построения таких методов используются средства математической статистики, численных методов, математического анализа, методов оптимизации, теории вероятностей, теории графов, различные техники работы с данными в цифровой форме.

Общая постановка задачи обучения по прецедентам

Имеется множество объектов (ситуаций) и множество возможных ответов (откликов, реакций). Существует некоторая зависимость между ответами и объектами, но она неизвестна. Известна только конечная совокупность прецедентов — пар «объект, ответ», называемая обучающей выборкой. На основе этих данных требуется восстановить неявную зависимость, то есть построить алгоритм, способный для любого возможного входного объекта выдать достаточно точный классифицирующий ответ. Эта зависимость не обязательно выражается аналитически, и здесь нейросети реализуют принцип эмпирически формируемого решения. Важной особенностью при этом является способность обучаемой системы к обобщению, то есть к адекватному отклику на данные, выходящие за пределы имеющейся обучающей выборки. Для измерения точности ответов вводится оценочный функционал качества.

Способы машинного обучения

  1. Обучение с учителем

    • Для каждого прецедента задаётся пара «ситуация, требуемое решение».

    • Примеры: искусственная нейронная сеть, глубокое обучение, метод коррекции ошибки, метод обратного распространения ошибки, метод опорных векторов.

  2. Обучение без учителя

    • Когда требуется сгруппировать объекты в кластеры, используя данные о попарном сходстве объектов, и/или понизить размерность данных.

    • Примеры: альфа-система подкрепления, гамма-система подкрепления, метод ближайших соседей.

  3. Обучение с подкреплением

    • Для каждого прецедента имеется пара «ситуация, принятое решение».

    • Примеры: генетический алгоритм, активное обучение.

  4. Трансдуктивное обучение

    • Обучение с частичным привлечением учителя, когда прогноз предполагается делать только для прецедентов из тестовой выборки.

  5. Многозадачное обучение

    • Одновременное обучение группе взаимосвязанных задач, для каждой из которых задаются свои пары «ситуация, требуемое решение».

  6. Многовариантное обучение

    • Обучение, когда прецеденты могут быть объединены в группы, в каждой из которых для всех прецедентов имеется «ситуация», но только для одного из них (причем, неизвестно какого) имеется пара «ситуация, требуемое решение».

  7. Бустинг

    • Процедура последовательного построения композиции алгоритмов машинного обучения, когда каждый следующий алгоритм стремится компенсировать недостатки композиции всех предыдущих алгоритмов.

Классические задачи, решаемые с помощью машинного обучения

  1. Классификация

    • Выполняется с помощью обучения с учителем на этапе собственно обучения.

  2. Кластеризация

    • Выполняется с помощью обучения без учителя.

  3. Регрессия

    • Выполняется с помощью обучения с учителем на этапе тестирования, является частным случаем задач прогнозирования.

  4. Понижение размерности данных и их визуализация

    • Выполняется с помощью обучения без учителя.

  5. Восстановление плотности распределения вероятности по набору данных

    • Выполняется с помощью обучения без учителя.

  6. Одноклассовая классификация и выявление новизны

    • Выполняется с помощью обучения без учителя.

  7. Построение ранговых зависимостей

    • Выполняется с помощью обучения без учителя.

  8. Обнаружение аномалий

    • Выполняется с помощью обучения без учителя.

Практические сферы применения

Машинное обучение имеет широкий спектр приложений:

  • Распознавание речи

  • Распознавание жестов

  • Распознавание рукописного ввода

  • Распознавание образов

  • Техническая диагностика

  • Медицинская диагностика

  • Прогнозирование временных рядов

  • Биоинформатика

  • Обнаружение мошенничества

  • Обнаружение спама

  • Категоризация документов

  • Биржевой технический анализ

  • Финансовый надзор

  • Кредитный скоринг

  • Прогнозирование ухода клиентов

  • Хемоинформатика

  • Обучение ранжированию в информационном поиске

Заключение

Машинное обучение — это мощный инструмент, который позволяет автоматизировать решение сложных профессиональных задач в самых разных областях человеческой деятельности. Оно постоянно расширяется и адаптируется под новые задачи и данные, что делает его незаменимым инструментом в современном мире.


[Удален]  
fxsaber #:

К сожалению, по аналитическому виду функции мне не очевидно, что она периодическая. Но если в интервал обучения попадет несколько периодов, то даже человек сможет предсказать ее поведение. Т.е. брать такой интервал обучения неинтересно совсем.

Гораздо показательнее, это взять интервал, например, в два раза меньше периода, но без ограничений на количество точек обучения.

1. sin(x)/4 - периодическая с периодом 2π

2. cos(x²)/4 - не периодическая, так как x² растет квадратично

3. 1/2 - константа (периодическая с любым периодом)


Если посмотреть внимательно на синие и зеленые, то есть периодичность с шумом (они не полностью идентичны). Тем не менее, модель справляется с какой-то ошибкой. Не занимался ее тюнингом.

 
СанСаныч Фоменко #:

Для общего развития Дик, которому лень задать вопрос чатгпт, который также является алгоритмом машинного обучения

можно спрогнозировать аналитическую функцию с помощью мо

Для общего развития Фоменко, которому сложно самостоятельно думать без чатагпт, поясню на пальцах: в общем виде, применительно к ЦВР, аналитическая форма ряда не известна. Задача с аналитической функцией приведена для примера (чтобы можно было проверить методы мо), на первом участке функции нужно отложить точки, и по точкам первого участка восстановить второй участок. Так же приведён третий участок, который тоже может быть восстановлен, если аппроксимация первого участка выполнена достоверно для процесса.

Если Вам непонятны даже такие простые моменты, то совершенно непонятно, что Вы делаете в МО.

Ваш высокомерный заносчивый тон не говорит о знаниях МО, а лишь говорит об отсутствии хорошего воспитания.

[Удален]  
Чтобы прогнозировать по маленьким кускам, нужно делать дополнительный препроцессинг, в самом начале написал. Потому что нужно соблюсти некоторые правила, например чтобы признаки не выходили за обучающий диапазон. На это нет времени и желания. Потому что занятие бессмысленное.

В самом простом случае прогнозы будут типа таких, потому что не хватает данных для обучения (в обучающей выборке нет похожих примеров). Периодическая компонента поймана, непериодическая нет.

Можно поиграть с признаками, пусть Дик этим и займется. И покажет всем кузькину мать.