Обсуждение статьи "Фундаментальные модели для торговли (Часть I): Нативная реализация Kronos средствами MQL5"

[MetaQuotes]

Опубликована статья Фундаментальные модели для торговли (Часть I): Нативная реализация Kronos средствами MQL5:

Kronos — предварительно обученная модель-трансформер, которая моделирует бары OHLCV так же, как языковая модель предсказывает слова. Мы с нуля реализуем ее токенизатор/кодировщик и блок трансформера на нативном MQL5, экспортируем веса в плоские файлы .bin и полностью исключаем Python из этапа выполнения модели. В части 1 реализованы предобработка, токенизация BSQ и средства побитной проверки результатов относительно PyTorch, что позволяет уверенно запускать кодировщик внутри MetaTrader 5.

Kronos обрабатывает свечной график так же, как языковая модель обрабатывает текст. Предложение — это последовательность токенов из фиксированного словаря. Kronos преобразует последовательность свечей в последовательность дискретных токенов из собственного словаря, сформированного в процессе обучения, а затем предсказывает следующий токен так же, как языковая модель предсказывает следующее слово. Для построения прогноза модель сэмплирует токены по одному и преобразует их обратно в свечи.

В этой архитектуре модель разделена на две взаимодействующие сети. Первая сеть — токенизатор, автокодировщик, который обучается сжимать шесть признаков бара в пару целочисленных токенов с небольшими значениями и восстанавливать из них бар. Вторая сеть — предиктор, трансформер только с декодировщиком, который по истории токенов предсказывает следующую пару токенов. Обе сети обучаются отдельно и используются совместно: контекстное окно кодируется в токены, предиктор продолжает их последовательность, затем новые токены декодируются обратно в свечи.

Мы переносим веса Kronos-Tokenizer-base и Kronos-small — наименьшей из опубликованных пар моделей. Даже "small" здесь означает трансформер размерностью 512 с 8 слоями, поэтому прямой проход требует существенных вычислений. В этой части рассматриваются только кодировщик токенизатора и общие компоненты трансформера; предиктор и декодировщик будут рассмотрены в части 2.

Автор: Muhammad Minhas Qamar