Обсуждение статьи "ARD-регрессия на MQL5: автоматический отбор признаков и случайные признаки Фурье"
Спасибо, интересно. Вероятностный байесовский подход в целом кажется более "родным" для рыночных данных, чем классическая эконометрика.
Имхо, логичнее было бы сопоставлять с PLS-регрессией, чем с PCA.
Aleksey Nikolayev #:
Спасибо, интересно. Вероятностный байесовский подход в целом кажется более "родным" для рыночных данных, чем классическая эконометрика.
Имхо, логичнее было бы сопоставлять с PLS-регрессией, чем с PCA.
Спасибо за проявленный интерес к статье.
Сложно сказать какой подход более подходит под временные ряды цен. Оценки параметров моделей в байесовской парадигме, при использовании неинформативных априоров сходятся к оценкам частотного подхода, то есть к MLE. Но в условиях недостаточности данных, байесовский подход даёт более реалистичные оценки. Вообще между частотниками и байесистами спор уже давно идёт, чей подход более правильный.
Про Pls регрессию вы правы, все таки это метод обучения с учителем в отличии от pca , просто я не был знаком с этой моделью, сейчас бегло посмотрел.
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Опубликована статья ARD-регрессия на MQL5: автоматический отбор признаков и случайные признаки Фурье:
Статья посвящена ARD-регрессии как байесовскому методу отбора признаков и применению случайных признаков Фурье (Random Fourier Features) для учета нелинейностей в рамках линейной модели. К статье прилагаются классы ARDRegression и CRBFSampler. Проводится сравнительный анализ точности и производительности реализации на MQL5 с эталонным классом из библиотеки scikit-learn.
В задачах машинного обучения и прикладного статистического анализа исследователи регулярно сталкиваются с проблемой высокой размерности данных. При построении регрессионных моделей добавление незначимых или мультиколлинеарных признаков неизбежно приводит к переобучению, снижению обобщающей способности и усложнению интерпретации результатов.
Традиционные методы снижения размерности и отбора признаков имеют заметные ограничения. Например, метод главных компонент (PCA) хорошо сжимает пространство признаков, выбирая направления с максимальной дисперсией. Однако он не учитывает целевую переменную и ориентируется только на признаки. В результате PCA часто сохраняет шум с высокой дисперсией и может отбросить полезные признаки, которые имеют относительно низкую дисперсию, но при этом сильно связаны с целевой переменной. Кроме того, главные компоненты представляют собой линейные комбинации исходных переменных, что затрудняет их интерпретируемость.
Более гибким и элегантным решением является ARD-регрессия (Automatic Relevance Determination — Автоматическое определение релевантности). ARD — это полноценный байесовский подход к линейной регрессии, который автоматически оценивает степень важности (релевантности) каждого входного признака в процессе обучения модели.
В этой статье мы подробно разберём математический аппарат ARD-регрессии и реализуем модель ARDRegression на языке MQL5, после чего сравним точность вычислений и скорость работы нашей реализации с эталонным модулем из библиотеки scikit-learn.
Автор: Evgeniy Chernish