Reti neurali artificiali. - pagina 9

 
tol64:
Ma ho anche portato un argomento contro. La macchina fotografica ha superato molte volte le capacità dell'occhio, se è anche un telescopio. ))

Affermazione dubbia, tutta l'astronomia è stata elaborata prima della scoperta del telescopio da coloro che avevano occhi normali, in questo affare la cosa principale non è la trasmissione dell'immagine ma la sua interpretazione, anche se sono d'accordo che l'uomo con 10 metri di occhi è uno spettacolo spaventoso :)

A proposito, il computer ha anche superato l'essere umano in molti aspetti, anche se non è stato creato a somiglianza del cervello.

 
IgorM:

...

.... E il bello è che filtrando le informazioni inutili e creando un modello matematico del mercato, si può costruire un TS efficace senza NS.

E perché è triste? )) Al contrario. Se la TS viene trovata ed è abbastanza efficace senza NS, allora dovremmo essere contenti. ))
 
Urain:

Affermazione dubbia, tutta l'astronomia è stata elaborata prima della scoperta del telescopio dall'occhio normale, la cosa principale in questo caso non è la trasmissione dell'immagine ma la sua interpretazione, anche se sono d'accordo che l'uomo con 10 metri di occhi è uno spettacolo inquietante :)

Il computer, tra l'altro, ha anche superato l'uomo in molti aspetti, anche se non è stato creato a somiglianza del cervello.

Ma l'attuale modello informatico sta già "scricchiolando". È difficile e quasi impossibile da sviluppare ulteriormente. Ecco perché Kwabena et al stanno cercando di implementare un modello simile al cervello.

E se un uomo è ingrandito in proporzione agli occhi di un telescopio da 10 m, non sembrerà più inquietante. O se si rendono i telescopi più piccoli alla dimensione attuale dell'occhio, naturalmente. )))

 
tol64: E perché è triste? )) Al contrario. Se la ST viene trovata e abbastanza efficace senza NS, allora si dovrebbe essere felici. ))

Triste la perdita di tempo - non si potrebbe trattare con NS, ma piuttosto analizzare e filtrare i dati in una volta sola

ZS: Non era mia intenzione, ma dirò comunque come vedo quello che tutti i principianti cercano in NS, almeno in senso figurato: se non un bel nome"reti neurali", ma per esempio "regressione esponenziale adattamento matematico", allora ci sarebbe meno interesse e aspettative verso tale strumento matematico, e grazie al nome sonoro la gente si aspetta il miracolo da "intelligente righello logaritmico".

 
tol64:

Ma l'attuale modello informatico sta già "scricchiolando". È difficile e quasi impossibile da sviluppare ulteriormente. Ecco perché gli stessi Kwabena et al stanno cercando di realizzare un modello simile al cervello.

E se un uomo è ingrandito in proporzione agli occhi di un telescopio da 10 m, non sembrerà più inquietante. O se si rendono i telescopi più piccoli alla dimensione attuale dell'occhio, naturalmente. )))

La stessa matematica del computer ha implementato metodi di 300 anni fa, ed è per questo che è un punto morto.

La matematica praticamente non sviluppa metodi paralleli è il nocciolo del problema.

La cosa principale che vale la pena prendere in prestito è il parallelismo dei metodi e NS è un passo avanti in questo senso, ma la copia del lavoro di NS in conformità con NS naturale è un passo indietro.

 
tol64:

È fantastico che lei conosca personalmente questi ricercatori. Per caso conosce Henry Markram? La sua previsione nel 2009 era di 10 anni. :) Mi chiedo dove si trovi ora.

Henry Markram sta costruendo un cervello in un supercomputer

No, non personalmente. Ma conosco bene il suo progetto del cervello blu. Markram crede che saremo in grado di capire e copiare il modo in cui funziona il nostro cervello solo se modelliamo accuratamente come funziona un neurone (canali ionici, equazioni diff che descrivono il movimento degli ioni e la propagazione dell'impulso elettrico attraverso il corpo del neurone, ritardi, ecc.) Nel 2009, IBM ha annunciato al mondo di aver modellato un cervello di gatto. Markram era piuttosto amareggiato(http://spectrum.ieee.org/tech-talk/semiconductors/devices/blue-brain-project-leader-angry-about-cat-brain), sostenendo che i ricercatori IBM avevano usato neuroni ad accoppiamento di punti, cioè modelli matematici semplici (come i neuroni delle reti classiche con la loro somma di ingressi pesati e funzione di attivazione non lineare). Un altro scienziato interessante in questo campo è Penrose. Quindi sostiene che anche conoscere tutti i dettagli degli scambi di ioni, delle reazioni chimiche e della propagazione degli impulsi attraverso il corpo dei neuroni non è sufficiente per capire e spiegare come funziona il cervello. Egli sostiene che è possibile solo date le reazioni quantistiche all'interno dei neuroni (teoria di Hameroff-Penrose). Leggi qui https://en.wikipedia.org/wiki/Quantum_mind. Penrose sostiene anche che attraverso queste reazioni quantistiche, il nostro cervello è in grado di "andare" in altre dimensioni e trarre conoscenza da lì. Cercate le sue conferenze (Roger Penrose) su youtube. Sono selvaggiamente interessanti.

Non ho familiarità con le previsioni di Markram. Fino agli anni 1990, i neurobiologi credevano che l'informazione tra i neuroni si scambiasse come un numero di impulsi che potevano essere descritti da un numero, da cui provengono le reti classiche. A metà degli anni '90, gli scienziati hanno scoperto che la tempistica dei singoli impulsi era più importante del loro numero in un periodo di tempo. Markram e altri scienziati hanno scoperto una nuova regola che cambia i pesi sinaptici, cioè la STDP. Molti neurobiologi negli ultimi 10 anni hanno iniziato a costruire le cosiddette reti di spike, in cui l'informazione è distribuita come impulsi (come un segnale binario 0/1), e i pesi variano in base alla STDP. Questi neuroscienziati iniziarono a sostenere che la ragione per cui le reti classiche non portavano ai robot era perché descrivevano in modo errato l'informazione (numeri invece di impulsi), il neurone (somma di ingressi ponderati invece di equazioni diff), e il cambiamento dei pesi (regola di Hebb invece di STDP). Ma purtroppo queste nuove reti spike non hanno ancora superato le reti classiche in capacità. Inoltre, richiedono molta più potenza del computer. Quindi non c'è molto progresso nella neurobiologia finora, e non dobbiamo aspettarci nuove reti capaci di rivelare schemi.

Cat Fight Brews Over Cat Brain
  • spectrum.ieee.org
Last week, IBM announced that they had simulated a brain with the number of neurons and synapses present in a cat's brain. In February 2008, the National Academy of Engineering issued a grand challenge to reverse engineer the human brain, sweetening a pot neuroscientists had already been stirring for a long time. There are as many theories of...
 
papaklass:


Cioè, se si creasse un modello che descrivesse i cambiamenti dei pesi durante i movimenti del mercato, i risultati potrebbero essere diversi, non così deprimenti. Avete fatto questo tipo di ricerca?

Fallo a tuo piacimento.

Questo richiederebbe una seconda griglia, che cercherebbe modelli di cambiamenti nei pesi della prima griglia a seconda dei cambiamenti nel mercato. Allora avreste bisogno di una terza griglia, che cercherebbe anche le dipendenze nella seconda griglia con i cambiamenti nella prima e nel mercato. Poi un quarto ...

Supponiamo di aver creato un modello che descrive i cambiamenti dei pesi nel mercato. Cosa ne facciamo dopo?

 
Reshetov:

Fallo a tuo piacimento.

Questo richiederà una seconda griglia, che cercherà un modello di cambiamenti nei pesi della prima griglia, a seconda dei cambiamenti nel mercato. Allora avete bisogno di una terza griglia, che cercherà anche le dipendenze nella seconda griglia quando la prima griglia e il mercato cambiano. Poi un quarto ...



E qui stavo prendendo i soldi dal mercato per 3 anni, non sapendo che dopo la prima griglia sarebbe stato necessario il secondo ...

Per me, una persona con una mente analitica, è pericoloso leggere tali thread, smetto di guadagnare, non ci sto pensando....

 
St.Vitaliy:

E qui stavo prendendo soldi dal mercato per 3 anni senza sapere che dopo la prima rete, avrei avuto bisogno di una seconda...

Beh, con la tua faccia, non hai bisogno di prendere soldi dal mercato, puoi semplicemente stamparli.
 
papaklass:

Cioè, se si creasse un modello che descrivesse i cambiamenti dei pesi durante i movimenti del mercato, i risultati potrebbero essere diversi, non così deprimenti. Avete fatto questo tipo di ricerca?

No, non l'ho fatto. Non credo che ne verrà fuori qualcosa di buono. Ecco i miei pensieri. Supponiamo di usare la regressione polinomiale invece di una rete, che è un altro modo di modellazione non lineare universale. Quindi il nostro compito è quello di adattare il polinomio

y = a0 + a1*x + a2*x^2 + ...

nei nostri dati y(x) trovando i coefficienti a0, a1, a2,... che riducono l'errore del nostro modello polinomiale. Sappiamo che il nostro modello polinomiale è buono solo sui dati su cui è stato eseguito il fit. Essenzialmente proponete di rendere i coefficienti del modello a0, a1, a2,... (gli stessi pesi della rete) essere resi dipendenti dai dati di input, per rendere il modello più robusto sui dati non appresi, cioè rendere a1(x), a2(x),... Ok, descriviamo ogni coefficiente con un polinomio diverso:

a1 = b0 + b1*x + b2*x^2 +...

a2 = c0 + c1*x + c2*x^2 +...

...

Sostituiamo questi coefficienti nel nostro primo modello e cosa otteniamo? Lo stesso polinomio, ma di ordine superiore, che può descrivere più accuratamente i dati di addestramento, ma si comporta male sui nuovi dati. È esattamente la stessa cosa con le reti. Una rete ne allena un'altra, che ne allena una terza e così via, non è altro che una grande rete. Non otterremo un comportamento più accurato sui nuovi dati. Ma se qualcuno vuole testare questa idea, ci faccia sapere i risultati.

Motivazione: