Обсуждение статьи "Машинное обучение и Data Science (Часть 48): Насколько важны трансформеры для трейдинга?"

 

Опубликована статья Машинное обучение и Data Science (Часть 48): Насколько важны трансформеры для трейдинга?:

От ChatGPT до Gemini и множества других инструментов на базе искусственного интеллекта для генерации текста, изображений и видео – трансформеры произвели фурор в мире искусственного интеллекта. Но применимы ли они в финансовой сфере, в частности в трейдинге? Постараемся разобраться.

В области глубокого обучения трансформер представляет собой архитектуру искусственной нейронной сети, основанную на механизме многоголового внимания. Эта архитектура была впервые представлена в статье 2017 года "Attention Is All You Need", авторами которой выступили восемь исследователей из Google. В статье была представлена новая модель, построенная на основе механизма внимания, изначально предложенного Бахданау и соавт. в 2014 году; эта работа широко признается одним из основополагающих вкладов в современный искусственный интеллект.

Трансформеры добились выдающихся успехов в самых разных областях. В области обработки естественного языка (NLP) они продемонстрировали свои возможности в машинном переводе, анализе тональности и суммаризации текста. При расширении области применения на обработку изображений трансформеры были успешно адаптированы для задач компьютерного зрения, продемонстрировав высокую эффективность в классификации изображений и обнаружении объектов.ё Кроме того, их эффективность распространяется на анализ временных рядов: уникальная способность учитывать дальние зависимости делает их пригодными для прогнозирования последовательных данных, что наглядно демонстрируется в таких задачах, как прогнозирование цен акций или погодных явлений.


Автор: Omega J Msigwa

 
Приветствую!

Вы некорректно считаете базовый(наивный) прогноз.

"Базовая модель

Это модель, которая использует последнее известное значение целевой переменной для построения прогноза. Это дает нам простой ориентир, который мы хотим превзойти."


Корректный базовый прогноз для стационарного ряда с нулевыми автокорреляциями это среднее этого ряда.

Для нестационарного ряда(типа случайного блуждания) корректный базовый прогноз это последнее значение. 

У нас целевая переменная это приращения цен, ряд приблизительно стационарный, следовательно, модель нужно было сравнивать с прогнозом по среднему, а не по последнему значению.