Article : Prévision des prix avec des réseaux neuronaux - page 12

 
Nous pouvons également discuter du nombre optimal de synapses dans le SN. D'après des considérations générales, il est clair qu'il ne doit pas y en avoir trop, sinon le SN surapprendra. Mais ils ne doivent pas non plus être peu nombreux, sinon le réseau sera sous-entraîné. Dans la littérature, j'ai rencontré différentes opinions sur ce sujet, j'aimerais donc connaître l'avis des estimés membres du forum.
 
Neutron:
Nous pouvons également discuter du nombre optimal de synapses dans le SN. D'après des considérations générales, il est clair qu'il ne doit pas y en avoir trop, sinon le SN surapprendra. Mais ils ne doivent pas non plus être peu nombreux, sinon le réseau sera sous-entraîné. Dans la littérature, j'ai rencontré différentes opinions sur ce sujet, et je souhaite donc connaître l'avis des estimés utilisateurs du forum.

Le nombre de synapses affecte fortement la capacité d'apprentissage d'un réseau. J'ai essayé à plusieurs reprises de développer une méthode d'apprentissage qui tienne compte de la topologie du réseau, mais j'ai échoué.

 

OK, mais j'aimerais une théorie.

Voici le raisonnement à voix haute. Pour un NS à couche unique avec un nombre d'entrées N, nous avons N synapses dont les poids déterminent de manière unique le système N dans le cas général d'équations non linéaires. Il est clair que pour résoudre un tel système, nous avons besoin d'un échantillon d'apprentissage de N vecteurs, chacun composé de N éléments. Dans ce cas, il n'y a pas d'autre solution. Avec la NS à deux couches, le nombre d'entrées doit être inférieur au nombre total de vecteurs d'apprentissage N par n, où n est le nombre de synapses dans la deuxième couche, de sorte que la longueur des vecteurs d'apprentissage a une longueur N-n.

Pour un SN à 3 couches, l'ordre de raisonnement est le même.

Ainsi :

1. nous partons de la profondeur d'immersion dont nous avons besoin et déterminons la dimensionnalité de l'entrée NS.

2. Ensuite, en tenant compte de l'architecture (nombre de couches) de NS, nous comptons le nombre de synapses, et obtenons la taille optimale de l'échantillon d'entraînement.

 

L'une des choses les plus importantes (à mon avis) est la préparation des données, pour ce faire

1. Essayez de réduire la corrélation des entrées. En d'autres termes, les entrées doivent être aussi statistiquement indépendantes que possible.

2. lors de la normalisation des vecteurs d'entrée, il est nécessaire d'obtenir une augmentation de l'entropie - augmentant ainsi la quantité d'informations soumises à NS tout en conservant le même volume de données d'entrée.

Contrôle obligatoire de la qualité des données, par exemple par la méthode de Kolmogorov-Smirnov ou/et avec l'exposant de Hurst.


La sélection de l'architecture du réseau peut réduire l'erreur.

 

Le blanchiment et la normalisation des entrées se passent d'explications. C'est élémentaire. Mais comment déterminer le nombre optimal d'entrées (profondeur d'immersion) ? Est-il possible de le faire uniquement de manière expérimentale ? Il y a quelques considérations à ce sujet. Je peux montrer qu'il existe un optimum local dans le nombre d'entrées. Ils ne doivent pas être peu nombreux, mais ils ne doivent pas non plus être nombreux. En règle générale, l'optimum est de 3 à 5 entrées. Que dit la théorie à cet égard ?

 
Neutron:

Le blanchiment et la normalisation des entrées sont simples. C'est élémentaire. Mais comment déterminer le nombre optimal d'entrées (profondeur d'immersion) ? Est-il possible de le faire uniquement de manière expérimentale ? Il y a quelques considérations à ce sujet. Je peux montrer qu'il existe un optimum local dans le nombre d'entrées. Ils ne doivent pas être peu nombreux, mais ils ne doivent pas non plus être trop nombreux. En règle générale, l'optimum est de 3 à 5 entrées. Que dit la théorie à cet égard ?

La théorie dit - seulement par intuition, c'est à dire expérimentalement. L'essentiel est d'être informatif.

 

Ce que vous dites est triste.

La taille du problème (globalement) ne permet malheureusement pas d'apporter une réponse satisfaisante à la question des paramètres optimaux des SN dans un délai raisonnable. Devons-nous inclure l'intellect et donner naissance à des critères ?


En général, le travail du réseau est fascinant ! Juste pour une expérience, j'ai lancé un petit réseau (à une couche) avec quatre entrées et aucune non-linéarité à la sortie.

Je mets des ticks à son entrée et le réentraîne à chaque tick et fait des prédictions un tick à l'avance. Oh, mec, ça fait des prédictions ! Dans l'image, le rouge est le téléscripteur, le bleu est la prédiction.

Bien sûr, je comprends que la série sélectionnée pour la prédiction est aussi simple que deux doigts sur le trottoir, mais le réseau est élémentaire.

 

Je travaille à NeuroSolutions, et il y a une option pour dimensionner le réseau et la profondeur de plongée

Mieux à ICQ (voir profil)

 
J'ai constaté à plusieurs reprises que si je ne comprends pas parfaitement comment et pourquoi quelque chose fonctionne, l'obtention d'un résultat positif est comme trouver une aiguille dans une botte de foin - vous pouvez la trouver, mais pas le fait que cela se produira. C'est pourquoi je préfère le construire moi-même et à partir de rien, le résultat est généralement meilleur.
 

Dobrovo vam vremia sutok i izvinite za translit.


Ja nacinajuscij treider, no s bolsim bagazom programirovanija. U menia vopros vam, otnositelno neironnix setej.

Procitav ves topic forum, mne bolee menee jasno kemu vse klonitsia ispolzuja neironnije seti, i potomu voprosi, dumaju, bolee konkretnije.


Dannije

1. il existe des signaux kucia avec des paramètres odinakovim cislom parametrov na konkretnij slucaj. - eto kak bi vxod neiroseti

2. il y a un rezultat - is serii xoroso/ploxo


Itak - est-il possible, ispolzuja neiroset poluchit otvet neiroseti v buduscem po etoj modeli - novije dannije - otvet - xoroso or ploxo ? Kakije trudnosti obucenija NN vozmozni v etoj scheme ?

Udovovletvoriajj menia rezultat b b b virozenije sili v nabore signalov s raznimi parametrovi (slaboje ili silnoje) v konkretnom sluchai.

Raison: