Обсуждение статьи "Нейросети в трейдинге: Habi — быстрое принятие решений без сложного планирования"

Опубликована статья Нейросети в трейдинге: Habi — быстрое принятие решений без сложного планирования:

Адаптируем фреймворк Habi для алгоритмической торговли на финансовых рынках. Его основной принцип — перенос опыта сложного планирования в генеративную политику для быстрого принятия решений. Модель учитывает рыночные данные и состояние счёта, формирует варианты управления торговой позицией, а Critic оценивает их потенциальные результаты. Для обучения используются эталонные действия Oracul. Рассматриваем архитектуру торговой адаптации и реализацию OpenCL-кернелов пакетного семплирования и обратного распространения градиентов.

При разработке торговой стратегии мы регулярно выбираем между несколькими действиями. Можно открыть позицию, изменить её объём, пересмотреть защитные уровни или остаться вне рынка. Каждое решение зависит не только от движения цены, но и от уже принятых обязательств. Чем подробнее алгоритм оценивает возможные последствия, тем больше вычислений требуется на очередном баре. Особенно заметна эта проблема в системах, которые строят несколько сценариев будущего и подбирают действия для каждого из них.

Сложное планирование полезно при подготовке торговой политики, но его полное повторение на каждом шаге бывает избыточным. Возникает практический вопрос: можно ли научить компактную модель воспроизводить опыт планировщика и получать решения по более короткому вычислительному маршруту? Этот подход рассматривают авторы работы Habitizing Diffusion Planning for Efficient and Effective Decision Making. Разработанный ими фреймворк Habi переносит решения диффузионного планировщика в генеративную политику. Авторы связывают механизм с формированием привычного поведения — habitization.

Обучаемая политика Habi формирует несколько действий из вероятностного представления состояния. Дополнительная нейросеть оценивает предложения, после чего выбирается один кандидат. При исполнении не требуется повторно запускать диффузионный планировщик. Вычислительное преимущество показано авторами на их исследовательских задачах; для финансового рынка его ещё необходимо проверять отдельно.

В нашей серии мы переносим принципы Habi в MQL5 и OpenCL. Источником эталонных торговых действий станет ранее разработанный Oracul, а оценка кандидатов будет учитывать денежные последствия и ограничения торговли. В первой статье разберём авторский алгоритм и объясним решения нашей адаптации. Также подготовим расширения двух OpenCL-кернелов пакетного VAE. Построение нейросетевых объектов и остальных вычислительных операций оставим второй статье. Обучение, онлайн-адаптацию и результаты тестирования рассмотрим в третьей.

Автор: Dmitriy Gizlyk