Diskussion zum Artikel "Neuronale Netze im Handel: Knotenadaptive Graphendarstellung mit NAFS"

[MetaQuotes]

Neuer Artikel Neuronale Netze im Handel: Knotenadaptive Graphendarstellung mit NAFS :

Wir laden Sie ein, sich mit der NAFS-Methode (Node-Adaptive Feature Smoothing) vertraut zu machen, einem nicht-parametrischen Ansatz zur Erstellung von Knotenrepräsentationen, der kein Parametertraining erfordert. NAFS extrahiert Merkmale jedes Knotens anhand seiner Nachbarn und kombiniert diese Merkmale dann adaptiv, um eine endgültige Darstellung zu erstellen.

In den letzten Jahren wurde das Lernen von Graphenrepräsentationen in verschiedenen Anwendungsszenarien, wie z. B. Knotencluster, Linkvorhersage, Knotenklassifizierung und Graphenklassifizierung, weit verbreitet. Das Ziel des Lernens von Graphdarstellungen ist es, Graphinformationen in Knoteneinbettungen zu kodieren. Traditionelle Methoden zum Erlernen von Graphdarstellungen haben sich in erster Linie darauf konzentriert, Informationen über die Graphstruktur zu erhalten. Diesen Methoden sind jedoch zwei wesentliche Grenzen gesetzt:

1. Flache Architektur. Während Graph Convolutional Networks (GCNs) mehrere Schichten verwenden, um tiefe strukturelle Informationen zu erfassen, führt die Erhöhung der Anzahl der Schichten oft zu einer Überglättung, was zu ununterscheidbaren Knoteneinbettungen führt.
2. Schlechte Skalierbarkeit. GNN-basierte Methoden zum Erlernen von Graphenrepräsentationen können bei großen Graphen aufgrund der hohen Rechenkosten und des erheblichen Speicherverbrauchs nicht skalieren.

Die Autoren des Artikels „NAFS: A Simple yet Tough-to-beat Baseline for Graph Representation Learning“ haben sich zum Ziel gesetzt, diese Probleme zu lösen, indem sie eine neuartige Methode zur Darstellung von Graphen einführen, die auf einer einfachen Glättung von Merkmalen und einer anschließenden adaptiven Kombination basiert. Die Methode NAFS (Node-Adaptive Feature Smoothing) erzeugt überlegene Knoteneinbettungen, indem sie sowohl die Strukturinformationen des Graphen als auch die Knotenmerkmale integriert. Ausgehend von der Beobachtung, dass verschiedene Knoten sehr unterschiedliche „Glättungsgeschwindigkeiten“ aufweisen, glättet NAFS adaptiv die Merkmale jedes Knotens, indem es sowohl Nachbarschaftsinformationen niedriger als auch hoher Ordnung verwendet. Darüber hinaus werden Merkmalsensembles verwendet, um geglättete Merkmale zu kombinieren, die mit verschiedenen Glättungsoperatoren extrahiert wurden. Da NAFS keine Training erfordert, reduziert es die Schulungskosten erheblich und lässt sich effizient auf große Graphen skalieren.

Autor: Dmitriy Gizlyk