Que mettre à l'entrée du réseau neuronal ? Vos idées... - page 66

 
Andrey Dik #:

Vous parlez d'enregistrement, pas de mémorisation. La mémorisation est un processus fondamentalement différent, l'enregistrement ne peut pas devenir de la mémorisation.
Un ordinateur et d'autres appareils électroniques dotés d'une mémoire (RAM, HDD, SSD, bandes, cartes perforées) mémorisent instantanément.
Pour les humains, il est nécessaire de répéter de nombreuses fois pour établir des connexions entre les neurones. Mais il existe aussi des personnes dotées d'une excellente mémoire.
Et établir des connexions entre les neurones peut s'appeler enregistrer. Si l'information est enregistrée, même si ce n'est pas du premier coup comme dans un ordinateur, alors elle est mémorisée.
 
Forester #:
Les ordinateurs et autres appareils électroniques dotés d'une mémoire (RAM, HDD, SSD, bandes, cartes perforées) mémorisent instantanément.
Pour les humains, il est nécessaire de répéter de nombreuses fois pour établir des connexions entre les neurones. Mais il existe aussi des personnes dotées d'une excellente mémoire.
Et établir des connexions entre les neurones peut s'appeler enregistrer. Si c'est enregistré, même si ce n'est pas la première fois, comme dans un ordinateur, alors c'est mémorisé.

Enregistrer - sauvegarder sur un support, autant d'informations qu'il y a (compressées ou non), autant seront enregistrées. Peu importe que ce soit la première ou la dixième fois, cela n'a pas d'importance. En d'autres termes, si vous prenez une information et que vous la placez sur un support, l'information sera stockée sur ce support sous une forme inchangée et pourra être lue sous la même forme - c'est le sens du terme "enregistrement".

La mémorisation a une nature et une signification fondamentalement différentes. Si nous prenons un être humain (ou tout autre être vivant), ce n'est pas une clé USB, il est impossible d'écrire des informations dans certaines parties arbitraires du cerveau et de les stocker sous une forme inchangée. Le cerveau ne peut que mémoriser, c'est-à-dire former de nouvelles connexions entre les neurones. Le nombre de neurones ne change pas pendant la mémorisation, seules les connexions entre eux changent. Lors de la mémorisation, le cerveau ne peut pas, n'a aucun moyen de savoir à l'avance comment de nouvelles connexions entre les neurones doivent être créées pour se souvenir de l'information, il s'agit d'un processus itératif. Certaines personnes le font en un nombre réduit d'itérations, d'autres en un nombre beaucoup plus important d'itérations, mais jamais clairement en une seule opération comme c'est le cas lorsqu'on écrit sur un support. C'est la différence entre l'enregistrement et la mémorisation. Alors que l'enregistrement garantit (avec une petite erreur, qui est généralement résolue par des méthodes techniques telles que la correction d'erreur sur les supports durs et les tampons spéciaux) la sauvegarde de l'information sur le support, la mémorisation donne un sens au processus de formation de liens entre les structures logiques (dans le cerveau, il s'agit des neurones).

Les réseaux neuronaux ont le même principe de mémorisation que le cerveau vivant. Il ne s'agit pas seulement d'écrire des valeurs dans des poids variables, mais de former les bonnes connexions entre les neurones artificiels. Il n'est jamais possible de savoir à l'avance quel type de connexions est nécessaire à la mémorisation, de sorte que le processus de mémorisation est aussi itératif que dans le cerveau vivant.

Le processus de mémorisation est donc aussi itératif que dans le cerveau vivant. L'enregistrement consiste à stocker des informations sur un support (quelle que soit la nature de ce support), la mémorisation consiste à établir des connexions entre des nœuds logiques.

L'enregistrement n'implique pas la présence de la mémorisation, alors que la mémorisation implique nécessairement des opérations d'écriture sur des variables. On peut dire que la mémorisation est un niveau d'abstraction plus élevé, impliquant des opérations d'écriture, nécessitant une vérification itérative de la qualité de la mémorisation.

Une démonstration du mécanisme de mémorisation chez l'homme est l'utilisation de la technique de l'association d'ancres, où le processus de mémorisation est plus rapide, plus fiable et en moins d'itérations. C'est ainsi que fonctionne le cerveau ; toute information et toute connaissance ne peuvent être stockées que sous la forme de nombreuses connexions entre les neurones. Les réseaux neuronaux fonctionnent sur le même principe, bien que sous une forme très simplifiée.

J'espère que la signification et la différence entre l'enregistrement et la mémorisation sont maintenant claires.

 
Andrey Dik #:

Enregistrement - enregistrer sur un support, autant d'informations qu'il y en a (compressées ou non) seront enregistrées. Peu importe que ce soit la première ou la dixième fois. En d'autres termes, vous prenez l'information et la mettez sur un support, le support stockera l'information sous une forme inchangée et pourra être lu sous la même forme - c'est le but de l'enregistrement.

La mémorisation a une nature et une signification fondamentalement différentes. Si nous prenons un être humain (ou tout autre être vivant), ce n'est pas une clé USB, il est impossible d'écrire des informations dans certaines parties arbitraires du cerveau et de les stocker sous une forme inchangée. Le cerveau ne peut que mémoriser, c'est-à-dire former de nouvelles connexions entre les neurones. Le nombre de neurones ne change pas pendant la mémorisation, seules les connexions entre eux changent. Lors de la mémorisation, le cerveau ne peut pas, n'a aucun moyen de savoir à l'avance comment de nouvelles connexions entre les neurones doivent être créées pour se souvenir de l'information, il s'agit d'un processus itératif. Certaines personnes le font en un nombre réduit d'itérations, d'autres en un nombre beaucoup plus important d'itérations, mais jamais clairement en une seule opération comme c'est le cas lorsqu'on écrit sur un support. C'est la différence entre l'enregistrement et la mémorisation. Alors que l'enregistrement garantit (avec une petite erreur, qui est généralement résolue par des méthodes techniques telles que la correction d'erreur sur les supports durs et les tampons spéciaux) la sauvegarde de l'information sur un support, la mémorisation est le processus de formation de connexions entre les structures logiques (dans le cerveau, il s'agit des neurones).

Les réseaux neuronaux ont le même principe de mémorisation que le cerveau vivant. Il ne s'agit pas seulement d'écrire des valeurs dans des poids variables, mais de former les bonnes connexions entre les neurones artificiels. Il n'est jamais possible de savoir à l'avance quel type de connexions est nécessaire pour la mémorisation, de sorte que le processus de mémorisation est aussi itératif que dans le cerveau vivant.

Le processus de mémorisation est donc aussi itératif que dans le cerveau vivant. Enregistrement - sauvegarde de l'information sur un support (quelle que soit la nature du support), mémorisation - création de connexions entre des nœuds logiques.

L'enregistrement n'implique pas la présence de la mémorisation, alors que la mémorisation implique nécessairement des opérations d'écriture sur des variables. On peut dire que la mémorisation est un niveau d'abstraction supérieur qui inclut des opérations d'enregistrement, nécessitant un contrôle itératif de la qualité de la mémorisation.

Une démonstration du mécanisme de mémorisation chez l'homme est l'utilisation de la technique de l'association d'ancres, où le processus de mémorisation est plus rapide, plus fiable et en moins d'itérations. C'est ainsi que fonctionne le cerveau ; toute information et toute connaissance ne peuvent être stockées que sous la forme de nombreuses connexions entre les neurones. Les réseaux neuronaux fonctionnent sur le même principe, bien que sous une forme très simplifiée.

J'espère que la signification et la différence entre l'enregistrement et la mémorisation sont maintenant claires.

Vous n'avez rien dit de nouveau, car j'ai brièvement mentionné la différence entre la mémoire humaine et la mémoire de la machine. Vous pouvez préfixer la mémorisation humaine et la mémorisation machine. Elles ont leurs propres particularités.

Les bases de données, les forêts et les modèles de regroupement écrivent = mémorisent en une seule fois. Sans itérations ni répétitions.

 
Forester #:

1. Vous n'avez rien dit de nouveau, puisque j'ai brièvement mentionné la différence entre la mémoire humaine et la mémoire machine. On peut préfixer la mémorisation humaine et la mémorisation machine. Elles ont leurs propres particularités.

2. les bases de données, les forêts et les modèles de regroupement écrivent = mémorisent en une seule fois. Sans itérations ni répétitions.

1) Absolument et inconditionnellement, je n'ai rien dit de nouveau, car il s'agit de choses basiques et élémentaires. Vous avez nié la nécessité du processus itératif de mémorisation avec contrôle de l'évaluation, et j'ai donc dû répéter en détail tout ce qui était connu depuis longtemps.

En particulier, les fausses idées fréquentes sur ces choses de base sont surprenantes. Diviser le concept de mémorisation entre mémorisation machine et mémorisation "humaine" n'a pas de sens, puisque le processus est fondamentalement identique.

2. Si vous avez quelque chose d'écrit quelque part en une seule fois, sans itérations, alors il n'y a pas de mémorisation. Je le répète, la mémorisation ne peut être effectuée en une seule itération, car le résultat de la mémorisation n'est pas connu à l'avance en raison de la nature "cohérente" de la mémorisation.

 
Andrey Dik #:

1) Absolument et inconditionnellement, je n'ai rien dit de nouveau, parce qu'il s'agit de choses basiques, élémentaires. Vous avez nié la nécessité d'un processus itératif de mémorisation avec contrôle de l'évaluation, de sorte que j'ai dû répéter en détail tout ce qui était connu depuis longtemps.

En particulier, les fausses idées fréquentes sur ces choses de base sont surprenantes. Diviser le concept de mémorisation entre mémorisation machine et mémorisation "humaine" n'a aucun sens, puisque le processus est fondamentalement identique.

2. Si vous avez quelque chose d'écrit quelque part en une seule fois, sans itérations, alors il n'y a pas de mémorisation. Je le répète, la mémorisation ne peut être effectuée en une seule itération, car le résultat de la mémorisation n'est pas connu à l'avance en raison de la nature "cohérente" de la mémorisation.

Répétez/itérez autant de fois que vous le souhaitez.
Les arbres répartissent les données sur les feuilles en un seul passage.
 
Forester #:
Répétez/itérez autant que vous le souhaitez.
Les arbres répartissent les données sur les feuilles en un seul passage.

Poser des questions.
Les arbres répartissent-ils toujours et en un seul passage les données de la même manière ?
Quels sont les algorithmes utilisés dans les arbres ? Quel est l'objectif de ces algorithmes ?
Si vous répondez à ces questions, je n'aurai pas besoin de refaire la base et je pourrai avancer dans mon projet.
 
Andrey Dik #:

Poser des questions.
Les arbres dispersent-ils toujours et en une seule fois les données de la même manière ?
Quels sont les algorithmes utilisés dans les arbres ? Quel est l'objectif de ces algorithmes ?
Si vous répondez à ces questions, je n'aurai pas besoin de refaire la base et je pourrai avancer dans mon projet.


1) Toujours en un seul passage Vous pouvez régler les paramètres pour qu'ils soient toujours les mêmes.
Mais en général, vous appliquez la randomisation : vous introduisez des lignes et/ou des colonnes aléatoires dans l'apprentissage.


Pour mes expériences, je désactive toujours tout ce qui introduit de la randomisation : pour la reproductibilité entre les séries. 2) Algorithmes gourmands. C'est pourquoi il faut faire une seule passe.

Il existe de nombreux articles sur les algorithmes d'arbre. Ici, vous pouvez répéter vous-même l'arbre dans le code et comprendre comment tout fonctionne.https://habr.com/ru/companies/vk/articles/438560/ Vous êtes un programmeur expérimenté - vous comprendrez facilement.

Et la 2ème partie https://habr.com/ru/companies/vk/articles/438562/

Пишем XGBoost с нуля — часть 1: деревья решений
Пишем XGBoost с нуля — часть 1: деревья решений
  • 2019.02.06
  • habr.com
Привет, Хабр! После многочисленных поисков качественных руководств о решающих деревьях и ансамблевых алгоритмах (бустинг, решающий лес и пр.) с их непосредственной реализацией на языках программирования, и так ничего не найдя (кто найдёт — напишите в комментах, может, что-то новое почерпну), я решил сделать своё собственное руководство, каким...
 
Forester #:


1) Toujours en un seul passage : vous pouvez régler les paramètres pour qu'ils soient toujours les mêmes.
Mais en général, la randomisation est appliquée : des lignes et/ou des colonnes aléatoires sont introduites dans l'apprentissage.

2) Algorithmes gourmands. C'est pourquoi il n'y a qu'un seul passage.

Il existe de nombreux articles sur les algorithmes d'arbre. Ici, vous pouvez reproduire vous-même un arbre dans le code et comprendre comment tout fonctionne.https://habr.com/ru/companies/vk/articles/438560/.


Il est de mauvais ton de vous envoyer lire des articles. Pouvez-vous répondre à mes questions ? Quelle est la signification de la négation ?))
Autres questions. Quelles sont les règles de ramification d'un arbre ?
Vous confondez encore enregistrement et mémorisation.
 
Andrey Dik #:

Il est mal vu de vous envoyer lire des articles. Pouvez-vous répondre à mes questions ? Quel est l'intérêt du déni ?))

La 1ère est répondue, la 2ème est dans l'article. Si vous comprenez l'algorithme, vous comprendrez tout. Le code est plus clair que mille mots.

 
Forester #:

La réponse à la première question est donnée, la deuxième se trouve dans l'article. Si vous comprenez l'algorithme, vous comprendrez tout. Le code est plus clair que mille mots.


Malheureusement, vous n'avez répondu complètement à aucune de mes questions. Vous vous dérobez toujours.))
C'est à vous de comprendre, pas à moi, apparemment.

Jetez mes questions sur le chat, si je suis trop paresseux pour taper la réponse moi-même)))

S.F. Au fait, vous pouvez lire l'article sur votre lien pour répondre à mes questions. Et sur mql5.com, il y a une énorme quantité de matériel éducatif dans les articles sur le sujet, et dans MQL5 natif.

ZZY. Faites attention en lisant les tutoriels que les arbres ne se ramifient pas de manière arbitraire, mais poursuivent des buts bien précis. Quels objectifs ?
A quel stade le processus itératif de formation des arbres intervient-il, pourquoi est-il itératif et quel est le but poursuivi par ce processus itératif ?