Обсуждение статьи "Инжиниринг признаков для машинного обучения (Часть 7): Энтропийные признаки в Python"

[MetaQuotes]

Опубликована статья Инжиниринг признаков для машинного обучения (Часть 7): Энтропийные признаки в Python:

В статье представлены готовые к промышленной эксплуатации оцениватели энтропии (Шеннона, подстановочный, Лемпеля — Зива, Контоянниса), работающие с последовательностями, закодированными по тиковому правилу. В статье устранены три проблемы корректности и производительности исходного кода, результаты сверены с данными из главы, а возможности кодирования расширены за счёт квантильного и сигма-кодирования. Пользователи получают воспроизводимые результаты и заметно более высокую скорость вычислений при работе с большими наборами баров.

Тиковое правило присваивает каждой сделке в пределах бара направление bt ∈ {−1, 0, +1}. Последовательность {b1, b2, ..., bN} служит исходными данными для всех четырёх оценивателей. Два свойства этой последовательности содержат полезную информацию.

Первое свойство — это маргинальное распределение. Равномерное распределение на множестве {−1, +1} — равное число покупок и продаж — даёт максимальную энтропию Шеннона. Асимметричное распределение — когда большинство сделок совершается в одном направлении — приводит к низкой энтропии Шеннона. Таким образом, низкая энтропия свидетельствует о преобладании одного направления в потоке заявок внутри бара, что в литературе по микроструктуре рынка связывают с информированной торговлей.

Второе свойство — структура последовательности. Два бара могут иметь одинаковое маргинальное распределение (равное количество покупок и продаж, H = 1 бит), но совершенно разную структуру последовательности. В одном баре покупки и продажи могут строго чередоваться — BSBSBS, — а в другом следовать в случайном порядке. Оценка энтропи методом подстановки по биграммам (BSBSBS даёт только BS и SB) позволила бы обнаружить эту закономерность, а энтропия Шеннона по маргинальному распределению — нет. Сложность Лемпеля — Зива отражает третье свойство: количество новых фраз, появляющихся в последовательности по мере её удлинения, что позволяет оценить степень сжимаемости последовательности. Трендовая последовательность — состоящая только из покупок — максимально сжимаема (одна фраза). Случайная последовательность не поддается сжатию.

Автор: Patrick Murimi Njoroge