Обсуждение статьи "Машинное обучение и Data Science (Часть 48): Насколько важны трансформеры для трейдинга?"
Опубликована статья Машинное обучение и Data Science (Часть 48): Насколько важны трансформеры для трейдинга?:
Автор: Omega J Msigwa
"Базовая модель
Это модель, которая использует последнее известное значение целевой переменной для построения прогноза. Это дает нам простой ориентир, который мы хотим превзойти."
Корректный базовый прогноз для стационарного ряда с нулевыми автокорреляциями это среднее этого ряда.
Для нестационарного ряда(типа случайного блуждания) корректный базовый прогноз это последнее значение.
У нас целевая переменная это приращения цен, ряд приблизительно стационарный, следовательно, модель нужно было сравнивать с прогнозом по среднему, а не по последнему значению.
Опубликована статья Машинное обучение и Data Science (Часть 48): Насколько важны трансформеры для трейдинга?:
В области глубокого обучения трансформер представляет собой архитектуру искусственной нейронной сети, основанную на механизме многоголового внимания. Эта архитектура была впервые представлена в статье 2017 года "Attention Is All You Need", авторами которой выступили восемь исследователей из Google. В статье была представлена новая модель, построенная на основе механизма внимания, изначально предложенного Бахданау и соавт. в 2014 году; эта работа широко признается одним из основополагающих вкладов в современный искусственный интеллект.
Трансформеры добились выдающихся успехов в самых разных областях. В области обработки естественного языка (NLP) они продемонстрировали свои возможности в машинном переводе, анализе тональности и суммаризации текста. При расширении области применения на обработку изображений трансформеры были успешно адаптированы для задач компьютерного зрения, продемонстрировав высокую эффективность в классификации изображений и обнаружении объектов.ё Кроме того, их эффективность распространяется на анализ временных рядов: уникальная способность учитывать дальние зависимости делает их пригодными для прогнозирования последовательных данных, что наглядно демонстрируется в таких задачах, как прогнозирование цен акций или погодных явлений.
Автор: Omega J Msigwa