Diskussion zum Artikel "Random Decision Forest und Reinforcement-Learning" - Seite 9

 
Maxim Dmitrievsky:

Wenn du älter bist, wirst du es verstehen.

Lies zumindest für den Anfang, welche Solver in neuronalen Netzen verwendet werden und warum niemand Genetik zum Trainieren verwendet.
Ich wusste, dass es nur um Solver geht.
[Gelöscht]  
Evgeniy Scherbina:
Ich wusste, dass es nur um Solver geht.

selbst bei 50 Eingängen und einem zweischichtigen NS mit 15 Neuronen pro Schicht die ungefähre Anzahl der Gewichte berechnen. Sie werden ewig brauchen, um ein solches primitives System mit Hilfe eines Optimierers zu optimieren. Und dies ist immer noch ein recht unkomplizierter Entwurf.

Setzen Sie diese 50 Eingaben in mein Beispiel ein, und Sie werden sofort lernen. Der Unterschied ist ungefähr so.

 
Maxim Dmitrievsky:

selbst bei 50 Eingängen und einem 2-schichtigen NS mit 15 Neuronen pro Schicht die ungefähre Anzahl der Gewichte berechnen. Sie werden ewig brauchen, um ein solches primitives System mit Hilfe eines Optimierers zu optimieren. Und dies ist immer noch eine sehr einfache Konstruktion.

Setzen Sie diese 50 Eingaben in mein Beispiel ein, und Sie werden sofort lernen. Das ist genau der Unterschied.

Das ist es, worüber wir hier sprechen. Sie machen es zu kompliziert und denken, das sei der richtige Weg. Es ist der falsche Weg. Komplizierter bedeutet nicht besser.

Ich habe vier Eingänge, drei Neuronen, eine Schicht für jedes Signal. Es gibt nur zwei Signale, aber sie sind für jedes Symbol individualisiert. Das ist eine Menge von Symbolen. Nach einem Jahr Training ist der Handel einen Monat lang mit dem neuronalen Netz besser als ohne es. Hier ist das Ergebnis! Kürzlich eröffnet, sitze ich zitternd vor Glück und schaue mir an, was sie sich noch ausgedacht haben. Ich warte auf die Bestätigung für den realen Handel.

[Gelöscht]  
Evgeniy Scherbina:

Das ist es, wovon ich spreche. Man macht es zu kompliziert und glaubt, es sei der richtige Weg. Es ist der falsche Weg. Komplizierter bedeutet nicht besser.

Ich habe vier Eingänge, drei Neuronen, eine Schicht für jedes Signal. Es gibt nur zwei Signale, aber für jeweils ein Symbol. Das sind eine Menge Symbole. Nach einem Jahr Training ist der Handel einen Monat lang mit dem neuronalen Netz besser als ohne es. Hier ist das Ergebnis! Vor kurzem eröffnet, sitze ich zitternd vor Glück und schaue mir an, was sie sich noch ausgedacht haben. Ich warte auf die Bestätigung für den realen Handel.

Nichts ist kompliziert, es ist ein klassisches MO-Modell.

Das Lernen durch den Optimierer ist sogar noch komplizierter, denn man wählt aus Hunderten und Tausenden von Varianten, die nicht funktionieren, die aus, die einem gefallen und die im Voraus funktionieren. Das ist eine mentale Falle: Sie denken, es gäbe einen Lernprozess - in Wirklichkeit gibt es einen Anpassungsprozess. Teilen Sie die Anzahl der funktionierenden Modelle durch die Anzahl der Modelle, die in der Vorwärtsoptimierungsliste nicht funktionieren, und Sie erhalten die Wahrscheinlichkeit, dass etwas von den ausgewählten Modellen in Zukunft im wirklichen Leben funktionieren wird. Normalerweise liegt die Wahrscheinlichkeit bei 1-5%.

Es gibt also keinen Grund zu zittern, es ist eine 99%ige Wahrscheinlichkeit für eine Überanpassung.

So oder so: Viel Glück!
 
Maxim Dmitrievsky:

Nichts ist kompliziert, es ist ein klassisches Modell des Verteidigungsministeriums.

Das Lernen durch einen Optimierer ist eine noch größere Anpassung, denn man wählt aus Hunderten und Tausenden, die nicht funktionieren, Varianten aus, die einem gefallen und die funktionieren. Das ist eine mentale Falle: Man denkt, es gäbe einen Lernprozess - in Wirklichkeit ist es ein Anpassungsprozess. Teilen Sie die Anzahl der funktionierenden Modelle durch die Anzahl der Modelle, die in der Vorwärtsoptimierungsliste nicht funktionieren, und Sie erhalten die Wahrscheinlichkeit, dass etwas von den ausgewählten Modellen in Zukunft im wirklichen Leben funktionieren wird. Normalerweise liegt die Wahrscheinlichkeit bei 1-5%.

Es gibt also keinen Grund zu zittern, es ist eine 99%ige Wahrscheinlichkeit für eine Überanpassung.

So oder so: Viel Glück.

Nein, nein, nein, nein. Es gab keine Anpassung. Es gab ein Lernen unabhängig vom nächsten Kontrollsatz. Ich habe verschiedene Zeiträume gewählt, und der nächste Monat ist einfach der nächste Monat. Ich habe versucht, mehr Eingabeparameter zu nehmen, aber es hat sich nicht verbessert. Am Ende habe ich die Netze aufgeteilt. Um fair zu sein, habe ich 3 davon in einem System (2 öffnen + 1 schließen), insgesamt 11 Eingänge. Ich bringe also etwas Bewegung in die Sache.

Mit anderen Worten: Der aktuelle Monat ist derselbe Kontrollsatz, mit dem ich den Test in der Vergangenheit durchgeführt habe. Es gab keine Anpassung des Kontrollmonats.

[Gelöscht]  
Evgeniy Scherbina:
Nein, nein, nein, nein. Es gab keine Anpassung. Es gab ein Training unabhängig vom nächsten Kontrollsatz. Ich habe verschiedene Zeiträume gewählt, und der nächste Monat ist einfach der nächste Monat. Ich habe versucht, mehr Eingabeparameter zu nehmen, aber es hat sich nicht verbessert. Am Ende habe ich die Netze aufgeteilt. Fairerweise muss ich sagen, dass ich 3 davon in einem System habe (2 öffnen + 1 schließen), insgesamt 11 Eingänge. Ich zittere also.

Vielleicht geschieht ja ein Wunder, das kommt vor.

oder die Prädiktoren selbst sind sinnvoll.
 
Können Sie mir sagen, wie man einen n-ary Baum zu bauen? Ich habe durch ein Array von Strukturen mass[0].mass[1].mass[n]...mass[n], aber es passt nicht, es sollte dynamisch in der Tiefe sein und es ist nicht klar, wie man einen neuen Knoten in diesem Fall hinzufügen, und die Adresse im Allgemeinen wird sehr lang).
[Gelöscht]  
VANDER:
Können Sie mir sagen, wie man einen n-ary Baum zu bauen? Ich habe durch ein Array von Strukturen mass[0].mass[1].mass[n]...mass[n], aber es passt nicht, es sollte dynamisch in der Tiefe und es ist nicht klar, wie man einen neuen Knoten in diesem Fall hinzufügen, und die Adresse im Allgemeinen wird sehr lang).

n-ary im Sinne von multiclass? Sie können die gleiche Bibliothek verwenden, um die Anzahl der Bäume = 1 zu setzen

 
Maxim Dmitrievsky:

n-ary im Sinne von multiclass? Sie können die gleiche Bibliothek verwenden, um die Anzahl der Bäume = 1 zu setzen

Damit er nicht binär ist, sondern eine beliebige Anzahl von Nachkommen an jedem Knoten hat, etwa so:

[Gelöscht]  
VANDER:

Um es nicht binär, sondern mit einer beliebigen Anzahl von Nachkommen an jedem Knoten zu machen, wie dies:

Nun, es sind mehrere Klassen, wenn Sie es so einstellen, wird es so sein. Man kann eine beliebige Anzahl von Zufallsmerkmalen setzen, deren Reihenfolge sich ändert, wenn man einen anderen Seed setzt. Es ist nicht klar, was die Aufgabe ist: Klassifizierung oder Regression. Außerdem ist ein Wald besser als ein einzelner Baum.