Обсуждение статьи "Нейросети в трейдинге: Адаптивное представление графов (NAFS)"

[MetaQuotes]

Опубликована статья Нейросети в трейдинге: Адаптивное представление графов (NAFS):

Предлагаем познакомиться с методом NAFS (Node-Adaptive Feature Smoothing) — это непараметрический подход к созданию представлений узлов, который не требует обучения параметров. NAFS извлекает характеристики каждого узла, учитывая его соседей, и затем адаптивно комбинирует эти характеристики для формирования конечного представления.

В последние годы обучение представления графов широко применяется в различных сценариях приложений, таких как кластеризация узлов, прогнозирование связей, классификация узлов и классификация графов. Целью обучения представления графов является кодирование информации графов в эмбединге узлов. Традиционные методы обучения представления графов сосредоточились на сохранении информации о структуре графа. Однако эти методы имеют два основных ограничения:

1. Поверхностная архитектура. Хотя в сверточных графовых сетях (GCN) применяется наложение нескольких слоев для захвата глубокой структурной информации, увеличение числа слоев часто приводит к чрезмерному сглаживанию и неразличимым эмбедингам.
2. Низкая масштабируемость. Методы обучения представления графов на основе GNN не могут масштабироваться до больших графов из-за высокой стоимости вычислений и большого использования памяти.

Указанные проблемы взялись решить авторы работы "NAFS: A Simple yet Tough-to-beat Baseline for Graph Representation Learning", в которой был представлен новый метод представления графов путем простого сглаживания признаков узлов с последующим адаптированием комбинированием. Метод адаптивного сглаживания признаков узлов (Node-Adaptive Feature Smoothing — NAFS) создает более совершенные эмбединги узлов, которые интегрируют информацию как из структурной информации графа, так и из признаков узлов. Основываясь на наблюдении, что разные узлы имеют очень различную «скорость сглаживания», NAFS адаптивно сглаживает каждый признак узла и использует информацию как низкого, так и высокого порядка окрестностей каждого узла. Кроме того, ансамбль признаков также используется для объединения сглаженных признаков, извлеченных с помощью различных операторов сглаживания. Поскольку NAFS не требует обучения, он значительно снижает затраты на обучение и лучше масштабируется для больших графов.

Автор: Dmitriy Gizlyk