Нейронный советник - страница 3

Новый комментарий
 
Ivan Butko #:

В этой статье советник не проверяется на форварде. У автора в магазине все советники переобучены и на новых данных - сливают (только что проверил). 

То есть, понятно, ради чего статья. Ради того же, что и про NeuroPro - показать возможность покрутить нейронки самому в руках, если не умеешь их кодировать. 


Это не плохо, а нормально. Пусть и не работают, но возможность поюзать в руках - это довольно занимательно. 


Простую MLP сложно научить что-то там распознавать, у неё задача другая - усреднить веса под задачи оптимизации: ради высокого баланса на оптимизируемом периоде, либо ради низкой просадки и так далее. 

Но на новых данных она не умеет работать, не умеет адаптироваться, поскольку в ней нет интеллектуальной начинки. Нет механизма адаптации, нечему адаптироваться. 


А найти рабочую ТС - это значит найти комплекс каких-то взаимосвязей, сложных взаимосвязей. Тут нужно что-то "посложней" обычной MLP
Полностью согласен! Текущий разрабатываемый проект на PyTorch: 

Экстрактор признаков (бэкбоун) в NEXUS vqw — это сложнейшая глубокая нейроморфная сеть, а не простой MLP.

Простым двухслойным MLP у нас являются торговые головы (Direction, Magnitude, Exit), которые принимают уже сжатый и очищенный латентный вектор.

Архитектура фиче-экстрактора устроена на порядки сложнее:

  1. Входное вейвлет-окно: Да, на вход подается скользящее окно из  256  баров. Но оно не идет в MLP, а пропускается через  WaveletTokenizer , который раскладывает его на 4 частотных вейвлет-масштаба и нарезает на  64  патча-токена.
  2. Экстрактор долгосрочной памяти (S4D Layers): Внедрены 3 слоя S4D-блоков (State Space Models). Это не полносвязные слои, а дискретизированные во времени линейные дифференциальные уравнения. Они прогоняют токены черезHiPPO-матрицы перехода ( AA), накапливая в скрытом состоянии историю, выходящую далеко за пределы 256 баров.
  3. Глобальный контекст (Efficient Attention): Слой внимания связывает ортогональные рыночные фазы между токенами.
  4. Математическая симметрия (Mat Layer): Групповая эквивариантность, перебор математических взаимосвязей для борьбы с фазовыми сдвигами котировок.
  5. Смесь экспертов (HybridMoTE): Токены распределяются по 35 MoETE-экспертам (23 приватным и 10 общим), каждый из которых специализирован под свой тип рынка.
  6. Рекурсивное размышление (Recursive Thinking Block): После пулинга вектор прогоняется через уточняющие циклы адаптации.

Таким образом, S4D-бэкбоун строит многомерные непрерывные траектории рынка, а двухслойные MLP-головы лишь транслируют этот сложный латентный код в конкретные торговые решения по каждой паре.

 
Dmitrii Shershov #:
Полностью согласен! Текущий разрабатываемый проект на PyTorch: 

Экстрактор признаков (бэкбоун) в NEXUS vqw — это сложнейшая глубокая нейроморфная сеть, а не простой MLP.

Простым двухслойным MLP у нас являются торговые головы (Direction, Magnitude, Exit), которые принимают уже сжатый и очищенный латентный вектор.

Архитектура фиче-экстрактора устроена на порядки сложнее:

  1. Входное вейвлет-окно: Да, на вход подается скользящее окно из  256  баров. Но оно не идет в MLP, а пропускается через  WaveletTokenizer , который раскладывает его на 4 частотных вейвлет-масштаба и нарезает на  64  патча-токена.
  2. Экстрактор долгосрочной памяти (S4D Layers): Внедрены 3 слоя S4D-блоков (State Space Models). Это не полносвязные слои, а дискретизированные во времени линейные дифференциальные уравнения. Они прогоняют токены черезHiPPO-матрицы перехода ( AA), накапливая в скрытом состоянии историю, выходящую далеко за пределы 256 баров.
  3. Глобальный контекст (Efficient Attention): Слой внимания связывает ортогональные рыночные фазы между токенами.
  4. Математическая симметрия (Mat Layer): Групповая эквивариантность, перебор математических взаимосвязей для борьбы с фазовыми сдвигами котировок.
  5. Смесь экспертов (HybridMoTE): Токены распределяются по 35 MoETE-экспертам (23 приватным и 10 общим), каждый из которых специализирован под свой тип рынка.
  6. Рекурсивное размышление (Recursive Thinking Block): После пулинга вектор прогоняется через уточняющие циклы адаптации.

Таким образом, S4D-бэкбоун строит многомерные непрерывные траектории рынка, а двухслойные MLP-головы лишь транслируют этот сложный латентный код в конкретные торговые решения по каждой паре.

Результаты то какие от этой "сложейшей"? Боюсь даже предположить.
 
Dmitriy Skub #:
Результаты то какие от этой "сложейшей"? Боюсь даже предположить.
Все в процессе...такие проекты за пару месяцев не создаются! И да, это сейчас одна из топовых архитектур, а через пару лет, может даже раньше уже будет стандарт, которым никого не удивишь!)
 
Dmitrii Shershov #:
Все в процессе...такие проекты за пару месяцев не создаются! И да, это сейчас одна из топовых архитектур, а через пару лет, может даже раньше уже будет стандарт, которым никого не удивишь!)
Не хочу вас расстраивать, но вейвлет - это самый популярный источник провороненных утечек. 

Если у вас хорошие результаты, значит вы на вход подаёте будущую информацию.
 
Ivan Butko #:
Не хочу вас расстраивать, но вейвлет - это самый популярный источник провороненных утечек. 

Если у вас хорошие результаты, значит вы на вход подаёте будущую информацию.
Утечек из будущего в прошлое нет. Вся цепочка — от препроцессинга данных и разбиения выборки до прямого прохода модели — спроектирована с соблюдением строгой причинности (causality).
123
Новый комментарий