Diskussion zum Artikel "Neuronale Netze leicht gemacht (Teil 12): Dropout"
Hinweis: Bei Verwendung in Fractal_OCL_AttentionMLMH_d anstelle von Net.feedForward(TempData,12,true);
printf("Fehler in der Netzweiterleitung. Topologie und Eingabedaten prüfen");
wird einen Fehler erzeugen. Anders als bei der Fractal_OCL_AttentionMLMH-Version, bei der es keinen solchen Fehler gibt.
Bitte prüfen Sie die Ursache.
Hinweis bei Verwendung in Fractal_OCL_AttentionMLMH_d anstelle von Net.feedForward(TempData,12,true);
printf("Fehler in der Netzweiterleitung. Topologie und Eingabedaten prüfen");
wird einen Fehler erzeugen. Anders als bei der Fractal_OCL_AttentionMLMH-Version, bei der es keinen solchen Fehler gibt.
Bitte prüfen Sie die Ursache.
Danke, ich werde es überprüfen.
Hinweis bei Verwendung in Fractal_OCL_AttentionMLMH_d anstelle von Net.feedForward(TempData,12,true);
printf("Fehler in der Netzweiterleitung. Topologie und Eingabedaten prüfen");
wird einen Fehler erzeugen. Anders als bei der Fractal_OCL_AttentionMLMH-Version, bei der es keinen solchen Fehler gibt.
Bitte prüfen Sie die Ursache.
Probieren Sie diese Version aus, ich hatte keine Fehler.
Vielen Dank für diesen Artikel. Ich habe meine Roboter bereits für die neuen Funktionen angepasst und sie funktionieren großartig.
Ich nehme an, dass ohne OCL nichts funktioniert? Schade, ich bin kein Gamer und die Karte ist alt....
Dmitry, können Sie ein wenig mehr über den Fensterparameter bei der Erstellung von Neuronkey erklären. Verstehe ich das richtig, dass dies die Anzahl der Neuronen ist, die nacheinander (mit einem Schritt) für die Berechnung in einem Schritt genommen werden, um Rechenleistung zu sparen? |
- Freie Handelsapplikationen
- Über 8.000 Signale zum Kopieren
- Wirtschaftsnachrichten für die Lage an den Finanzmärkte
Sie stimmen der Website-Richtlinie und den Nutzungsbedingungen zu.
Neuer Artikel Neuronale Netze leicht gemacht (Teil 12): Dropout :
Als nächsten Schritt beim Studium von neuronalen Netzwerken schlage ich vor, die Methoden zur Erhöhung der Konvergenz beim Training von neuronalen Netzwerken zu besprechen. Es gibt mehrere solcher Methoden. In diesem Artikel werden wir uns einer von ihnen mit dem Namen Dropout zuwenden.
Beim Training eines neuronalen Netzwerks wird eine große Anzahl von Merkmalen in jedes Neuron eingespeist, und es ist schwierig, die Auswirkungen jedes einzelnen Merkmals zu bewerten. Infolgedessen werden die Fehler einiger Neuronen durch die korrekten Werte anderer Neuronen geglättet, während diese Fehler am Ausgang des neuronalen Netzwerks akkumuliert werden. Dies führt dazu, dass das Training bei einem bestimmten lokalen Minimum mit einem ziemlich großen Fehler aufhört. Dieser Effekt wird als Co-Adaptation der Merkmalsdetektoren bezeichnet, bei der sich der Einfluss der einzelnen Merkmale an die Umgebung anpasst. Besser wäre der gegenteilige Effekt, wenn die Umgebung in einzelne Merkmale zerlegt wird und es möglich ist, den Einfluss jedes Merkmals separat zu bewerten.
Im Jahr 2012 schlug eine Gruppe von Wissenschaftlern der Universität Toronto vor, einen Teil der Neuronen zufällig aus dem Lernprozess auszuschließen, um das Problem der komplexen Koadaptation zu lösen [12]. Eine Verringerung der Anzahl der Merkmale im Training erhöht die Wichtigkeit jedes Merkmals, und eine ständige Veränderung der quantitativen und qualitativen Zusammensetzung der Merkmale verringert das Risiko ihrer Koadaptation. Diese Methode wird Dropout genannt. Manchmal wird die Anwendung dieser Methode mit Entscheidungsbäumen verglichen: Durch das Auslassen einiger Neuronen erhalten wir bei jeder Trainingsiteration ein neues neuronales Netz mit eigenen Gewichten. Nach den Regeln der Kombinatorik haben solche Netze eine recht hohe Variabilität.
Autor: Dmitriy Gizlyk