"Новый нейронный" - проект Open Source движка нейронной сети для платформы MetaTrader 5. - страница 83

Новый комментарий
 
А еще добавьте нейронам возможность рождаться и умирать. Чтоб совсем как между ушами.
 
ivandurak:
А еще добавьте нейронам возможность рождаться и умирать. Чтоб совсем как между ушами.
Как между ушами не надо. Аналог междуушных мозгов будет испытывать страх и жадничать, а это мы и сами умеем. :)
 
joo:
Как между ушами не надо. Аналог междуушных мозгов будет испытывать страх и жадничать, а это мы и сами умеем. :)
Это смотря чему учить, видимо у человека изначально заложены не убиваемые нейроны и связи типа инстинкта самосохранения. )
 
С исскуственными нейросетками вроде как понятно есть CPU или GPU, который и настраивает веса в нейронах. В вот в биологических нейронах кто или что выполняет функцию настройки нейронов. Порылся не нашел,биологи тоже молчат. Пытал кошку, та только посмотрела как на ........
 
ivandurak:
С исскуственными нейросетками вроде как понятно есть CPU или GPU, который и настраивает веса в нейронах. В вот в биологических нейронах кто или что выполняет функцию настройки нейронов. Порылся не нашел,биологи тоже молчат. Пытал кошку, та только посмотрела как на ........
Веса нейронов настраивает фитнес функция - жизнь. 
 
ivandurak:
С исскуственными нейросетками вроде как понятно есть CPU или GPU, который и настраивает веса в нейронах. В вот в биологических нейронах кто или что выполняет функцию настройки нейронов. Порылся не нашел,биологи тоже молчат. Пытал кошку, та только посмотрела как на ........
Ознакомьтесь с работами Себастьяна Сеунга, Генри Маркрама и Квабена Боахена. Это одни из ведущих современных учёных в этой области и их результаты очень интересны.
 
joo:
Веса нейронов настраивает фитнес функция - жизнь. 

Не, веса настраивает алгоритм обучения, их есть множество, какой используется в голове доподлинно не известно.

Но предполагают что некоторые участки юзают прямое распространение, некоторые обратное.

 
ivandurak:
С исскуственными нейросетками вроде как понятно есть CPU или GPU, который и настраивает веса в нейронах. В вот в биологических нейронах кто или что выполняет функцию настройки нейронов. Порылся не нашел,биологи тоже молчат. Пытал кошку, та только посмотрела как на ........

Попробую объяснить по порядку.

 

  1. Билогические нейроны посылают информацию в виде электрических импульсов (спайков).
  2. Согласно одним учёным, информация кодируется в относительных временах импульсов на разных входах нейрона (типа бинарного кода). Согласно другим учёным, информация кодируется в числе импульсов за промежуток времени в каком-то подсоединении. Это число импульсов можно представить в виде аналогового сигнала. Все классические нейросети, о которых вы читаете здесь и в книгах, основаны на этом принципе аналогового кодирования. Теория временного кодирования достаточно новая (с середины 90-х) и обещает раскрыть "тайны" нашего интеллекта :)
  3. Электрические импульсы распространяются только по телу нейрона в виде разницы потенциалов между внешней и внутренней средой (оболочка нейрона играет роль конденсатора).
  4. При достижении аксона (хвоста) нейрона, электрический импульс вызывает освобождение специального химического вещества (нейро-транзмитера, медиатора), которое мигрируют к дендриту другого нейрона через щелевой контакт (шипик) называемый синапсом. Рецепторы дендрита поглощают нейро-транзмитер, который, если превышает порог активации, возбуждает электрический импульс в принимающем нейроне. И так далее.
  5. Веса синапсов (подсоединений) между нейронами зависят от количества нейро-транзмитера в аксоне выпускающего нейрона и количества рецепторов в дендрите принимающего нейрона. Если принимающий нейрон активировался и сгенерировал импульс, то этот импульс распространяется как к аксону (хвосту) этого нейрона так и к его дендритам, где происходят химические реакции регулирующие количество рецептеров и транзмитеров -  то есть веса. В силу кластерной структуры рецепторов и транзмитеров, веса могут релулироваться от 0 (нет контакта) до 64. В этой теории пока много неясного. Согласно другой теории, вес подсоединения зависит от количества контактов (шипиков) между двумя нейронами. Дендриты нейрона образуют разветвлённое дерево. Аксон другого нейрона может контактировать это дерево в нескольких местах. Каждый контакт - бинарный (либо он есть, либо его нет). Количество контактов определяет вес.
  6. Независимо от теории, все учёные согласны что веса изменяются в результате Spike-timing-dependent plasticity (STDP). Согласно этому механизму, вес подсоединения увеличивается если принимающий нейрон сгенерировал импульс после входного импульса в данном подсоединении. И уменьшается если выходной импульс случился до входного импульса. STDP был экспериментально измерен в 1996 году, что дало начало теории временного кодирования.
  7. Существует также глобальная обратная связь. Если мы удовлетворены каким-то результатом наших действий, то наш мозг рассылает дофамин, укрепляющий подсоединения между всеми нейронами, активация которых привела к данному результату. Кстати, наркотики заменяют вырабатываемый мозгом дофамин, уменьшая его производство в мозгу и делая наркоманов зависимыми от наркотиков.
  8. Нейроны могут также образовывать новые контакты там где их до этого не было (так называемая структурная пластичность). Где-то на инете видел видео как учёные вырастили в пробирке два нейрона, активировали их импульсами и наблюдали как аксон одного нейрона стал расти в направлении к дендриту другого нейрона делая контакты в местах где электрическое поле было максимально.

https://www.youtube.com/watch?v=xMCQPHb3iSw&feature=related

https://www.youtube.com/watch?v=_JgQtjhfnPE&feature=related 

Как видно из этого короткого курса в мозг, классические нейросети довольно далеки от биологических. 

 
gpwr:
Раз уж вы нас посетили, может какие замечания по модели что я представлял выше?
 
Urain:
Раз уж вы нас посетили, может какие замечания по модели что я представлял выше?
Особо в эту модель я не вникал. Замечаний, кроме тех которые уже сделал, пока нет.
1...767778798081828384858687888990...100
Новый комментарий
Причина обращения: