"Новый нейронный" - проект Open Source движка нейронной сети для платформы MetaTrader 5. - страница 9

 
TheXpert:

Не может такого быть. Разнотипные в разных слоях. Я ж говорю, можно вообще каждый нейрон сделать отдельным слоем.

Про буфер лучше на примере. Дай до дома добраться.

Слой это объединение нейронов не зависящее друг от друга в одной итерации.

Кто сказал что не может такого быть, а вот хочу, а ты мне крылья режешь :о)

Мало ли до чего народ может додуматься, ты ещё скажи что все нейроны слоя должны иметь одинаковое количество входов.

и типы и связи всё может отличаться даже для нейронов одного слоя, от этого нужно плясать, иначе получим просто набор алгоритмов ( которых куча в инете) из которых чтоб что то связать нужно посЕдеть.

ЗЫ насколько усложнится алгоритм если каждый нейрон будет отдельным слоем?

 
TheXpert:
Кто посоветует какую-нить онлайн-рисовалку схем и т.п. хрени?

В Гугл Документах есть рисунки, можно в совместном доступе.

 

 

Могу секретарем подрабатывать по рисованию, при условии не более 1 часа в день. 

 
TheXpert:

Ок, по мне интересны 4 сети из реализованных

1. Сети Кохонена, в т.ч. SOM. Хорошо использовать для разделения на кластеры там, где непонятно чего искать. Топология думаю известна на входе вектор, на выходе вектор или по-другому сгруппированные выходы. Обучение может быть как с учителем, так и без.

2. MLP , в максимально общем виде, т.е. с произвольным набором слоев, организованных в виде графа с наличием обратных связей. Применяется очень широко

3. Рециркуляционная сеть. Честно говоря, ни разу не видел нормальной рабочей нелинейной реализации. Применяется для сжатия информации и выделения главных компонент (PCA) . В простейшем линейном виде представляется как линейная двуслойная сеть, в которой сигнал можно распространять с обеих сторон (или трехлойная в развернутом виде).

4.Эхо-сеть. По принципу схожа с MLP, применяется там же. Но абсолютно отличается по организации и имеет четко заданное время обучения (ну и всегда выдает глобальный минимум, в отличие).

5. PNN -- не использовал, не шарю. Но думаю найдутся умельцы.

6. Модели для нечеткой логики (не путать с вероятностными сетями). Не реализовывал. Но могут быть полезны. Если кто-то найдет информацию киньте плз. Почти все модели имеют японское авторство. Почти все собираются вручную, но если бы получилось автоматизировать построение топологии по логическому выражению(если я все правильно помню), это было бы нереально круто.


+ сети с эволюционным наращиванием числа нейронов или наоборот уменьшением.

+ генетические алоритмы + сюда же методы ускорения обучения.

нашел вот такую небольшую классификацию

 
sergeev:

+ генетические алоритмы

Генетика жрет много доп. ресурсов. Лучше таки градиентные алгоритмы.
 
TheXpert:
Генетика жрет много доп. ресурсов. Лучше таки градиентные алгоритмы.

а чего решать за юзеров что им нужнее? Надо дать выбор. PNN например тоже жрет много ресурсов.

Библиотека должна быть универсальной и обширной, открывающая возможности для поиска вариантов решений, а не в стандартном комплекте backpropagation, что и так найдешь в нете.

 
Urain:

Слой это объединение нейронов не зависящее друг от друга в одной итерации

И что это дает?

Мало ли до чего народ может додуматься, ты ещё скажи что все нейроны слоя должны иметь одинаковое количество входов.

Гм. У каждого нейрона один вход и один выход.

и типы и связи всё может отличаться даже для нейронов одного слоя, от этого нужно плясать, иначе получим просто набор алгоритмов ( которых куча в инете) из которых чтоб что то связать нужно посЕдеть.

Во-первых я не закончил. Во-вторых смотри правила. Критика потом. Ты не видишь модели в целом, а уже начинаешь критиковать. Нехорошо.

ЗЫ насколько усложнится алгоритм если каждый нейрон будет отдельным слоем?

Алгоритм чего? Замедлится тупо обучение и функционирование.

Urain:

И пжалста по подробнее что за сущность "Буфер"?

Буфер -- сущность, через которую связываются синапсы и нейроны. Еще раз повторяю, моя модель очень непохожа на биологическую.

_____________________

Сорри, что вчера не дорисовал. Забыл заплатить на инет, отрубили :)

 
Urain:

Слой это объединение нейронов не зависящее друг от друга в одной итерации.

Кто сказал что не может такого быть, а вот хочу, а ты мне крылья режешь :о)

Мало ли до чего народ может додуматься, ты ещё скажи что все нейроны слоя должны иметь одинаковое количество входов.

и типы и связи всё может отличаться даже для нейронов одного слоя, от этого нужно плясать, иначе получим просто набор алгоритмов ( которых куча в инете) из которых чтоб что то связать нужно посЕдеть.

ЗЫ насколько усложнится алгоритм если каждый нейрон будет отдельным слоем?

Теоретически наверное возможно, практически не сталкивался с подобным. Даже с идеей в первые столкнулся.

Думается мне что чисто в экспериментальных целях целях можно покумекать над реализацией, в рамках проекта реализация "разношерстного" слоя наверное не самый лучшая идея с точки зрения трудозатрат и эффективности внедрения.

Хотя лично мне идея нравится, по крайней мере такую возможность наверное стоит обсудить.

 
sergeev:

а чего решать за юзеров что им нужнее

? Генетика это метод обучения. Самое правильное имхо запрятать алгоритмы обучения, предварительно выбрав оптимальный.

 
TheXpert:

? Генетика это метод обучения. Самое правильное имхо запрятать алгоритмы обучения, предварительно выбрав оптимальный.

а разве работа с НС заключается только в выборе её топологии ? Метод обучения тоже играет не маловажную роль. Топология и обучение тесно связаны.

У всех юзеров есть свое имхо, поэтому забирать половину принимаемого решения на себя нельзя.

Мы должны создать конструктор сетей, не ограничивающий себя какими-то предустановками. И по возможности универсальный.

 

sergeev:

Библиотека должна быть универсальной и обширной, открывающая возможности для поиска вариантов решений, а не в стандартном комплекте backpropagation, что и так найдешь в нете.

sergeev:

а разве работа с НС заключается только в выборе её топологии ? Метод обучения тоже играет не маловажную роль. Топология и обучение тесно связаны.

У всех юзеров есть свое имхо, поэтому забирать половину принимаемого решения на себя нельзя.

Мы должны создать конструктор сетей, не ограничивающий себя какими-то предустановками. И по возможности универсальный.

С этим полностью согласен.
Причина обращения: