Распределенные вычисления. Проект Volvox. - страница 3
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Атак никто не пробовал: на одном компе обучаются образцы 1-100, на втором 101-200 и т.д. Потом вычисляется среднее значение каждого веса, проверяется ошибка по всем образцам, если болшая ошибка - образцы перемешиваются - и все сначала. Интересно что будет если скрестить две сети одинаковой структуры путем усреднения значений весов, она будет обучена на все образцы или полностью разучится?
Боюсь он к обратному распространению ошибки это отношения неимеет, если использовать слой Кохонена, да можно.
Если со слоем Конена работает, то наверно стоит попробовать и с обратным распространением.
Вообще-то параллельные вычисления per se - очень развитое направление в опенсоусном мире, и изобретать велосипед не придется.
Меня больше чем межкомпьютерное интересует распараллеливание межпроцессорное (межъядерное), а ещё больше - аппаратные мат. акселераторы. Например грядущие PCI девайсы от nVidia, или использование GPU видеокарт.
Атак никто не пробовал: на одном компе обучаются образцы 1-100, на втором 101-200 и т.д. Потом вычисляется среднее значение каждого веса, проверяется ошибка по всем образцам, если болшая ошибка - образцы перемешиваются - и все сначала. Интересно что будет если скрестить две сети одинаковой структуры путем усреднения значений весов, она будет обучена на все образцы или полностью разучится?
Боюсь он к обратному распространению ошибки это отношения неимеет, если использовать слой Кохонена, да можно.
Если со слоем Конена работает, то наверно стоит попробовать и с обратным распространением.
Не получится. надо решать будет совсем другую проблему. И она только одна. А как быть с весами нейронов. В каждом случае они будут свои. И связи между ними не будет никакой.
Если есть другое решение, то я за. Но эту сетку нельзяотадвать в "общие" руки. Руки ( а точнее голова должна быть одна). Если Алексей Сергеев сможет решить эту проблему. Честь ему и хвала. Но для обратного распространия ошибки данный подход не проходит. Но есть масса других задач, которые можно решать данным методом. И мне кажется пора переходить к ним. Не надо тут примешивать нейронку.
Я видел много исходных кодов НС, из весьма и не очень развитых проектов. Никто не реализовал параллельные вычисления. Думаю, что если Вы будете тратить драгоценное время на это, утонете в науке. А вот генетические алгоритмы, которые должны быть непременной частью системы, распараллеливаются легко (и есть опенсоурсные проекты). А НС действительно лучше разделить на независимые части.
Вообще-то параллельные вычисления per se - очень развитое направление в опенсоусном мире, и изобретать велосипед не придется.
Меня больше чем межкомпьютерное интересует распараллеливание межпроцессорное (межъядерное), а ещё больше - аппаратные мат. акселераторы. Например грядущие PCI девайсы от nVidia, или использование GPU видеокарт.
Мне кажется, что это ближе к истине.
Если есть другое решение, то я за. Но эту сетку нельзяотадвать в "общие" руки. Руки ( а точнее голова должна быть одна). Если Алексей Сергеев сможет решить эту проблему. Честь ему и хвала. Но для обратного распространия ошибки данный подход не проходит. Но есть масса других задач, которые можно решать данным методом. И мне кажется пора переходить к ним. Не надо тут примешивать нейронку.В общие руки она и не отдастся. Так как принцип ее построения заключается в том, что клиент не знает какие вычисления он проводит. О типе данных знает только разработчик и грубо говоря серверная часть. Этот тип передается клиенту через универсальный шаблон dll.
А то что я поднял тему относитеьно нейронки обяъсняю тем, что даже Вы писали что процесс обучения идет очень долго. Вот я и решил задать этот вопрос. Нужна ли кому такая разработка как Volvox?
Если есть другое решение, то я за. Но эту сетку нельзяотадвать в "общие" руки. Руки ( а точнее голова должна быть одна). Если Алексей Сергеев сможет решить эту проблему. Честь ему и хвала. Но для обратного распространия ошибки данный подход не проходит. Но есть масса других задач, которые можно решать данным методом. И мне кажется пора переходить к ним. Не надо тут примешивать нейронку.В общие руки она и не отдастся. Так как принцип ее построения заключается в том, что клиент не знает какие вычисления он проводит. О типе данных знает только разработчик и грубо говоря серверная часть. Этот тип передается клиенту через универсальный шаблон dll.
А то что я поднял тему относитеьно нейронки обяъсняю тем, что даже Вы писали что процесс обучения идет очень долго. Вот я и решил задать этот вопрос. Нужна ли кому такая разработка как Volvox...
Разработка нужна, но только для решения других задач. И если мы хотим ее эффектвности, то и "клиенты" должны быть в ней заинтересованы. Сложных вычислений хватает. Проблема будет только в постановке задач, и в последовательности их решения. Данный спобсоб позволет сохранить время каждого из нас, но только в том случае, если на это будут согласны и другие. Но "другим" тоже что-то надо, и какое-то время (машинное и свое) надо отдать. Как это будет реализованно, это большой вопррос. Никто не согласится отдавать свои ресурсы не получая ничего взамен. Сможете ответить, то очень хотелось бы это услышать. Это нужно не только мне, но и многим другим заинтересованным. Но только проблема будет заключаться в том, что эти потребности (точнее время их проявления) никто не сможет спрогнозировать.
Я видел много исходных кодов НС, из весьма и не очень развитых
проектов....
Поделитесь пожалуйста ссылками
Я видел много исходных кодов НС, из весьма и не очень развитых
проектов....
Поделитесь пожалуйста ссылками
Их действительно много в инете. Но может и не стоит на этом заострять внимание. Если следовать поставленной задаче, то каждый может выполнять определенную функцию, а потом решать ее совместно. Так может надо сменить свою политику, и стать "сервером" и не забывать о "клиентах". На самом деле все прще - задача решаерся совместно, каждый несет свои знания в копилку. Но копилка становится общей. И знания (тоже соответсвенно становятся общими). Хотя я понимаю, что трудно оказаться от своего приоритета в "главных" знаниях, но к, сожалению, этого не бывает. Потому как каждый из нас считает счои знания самыми важными. И с этим надо смириться.
Надумаешь. Чиркни пару строчек, или я чиркну.
Их действительно много в инете. Но может и не стоит на этом заострять внимание. Если следовать поставленной задаче, то каждый может выполнять определенную функцию, а потом решать ее совместно. Так может надо сменить свою политику, и стать "сервером" и не забывать о "клиентах". На самом деле все прще - задача решаерся совместно, каждый несет свои знания в копилку. Но копилка становится общей. И знания (тоже соответсвенно становятся общими). Хотя я понимаю, что трудно оказаться от своего приоритета в "главных" знаниях, но к, сожалению, этого не бывает. Потому как каждый из нас считает счои знания самыми важными. И с этим надо смириться.
Надумаешь. Чиркни пару строчек, или я чиркну.
Это преложение о совместной работе?
Их действительно много в инете. Но может и не стоит на этом заострять внимание. Если следовать поставленной задаче, то каждый может выполнять определенную функцию, а потом решать ее совместно. Так может надо сменить свою политику, и стать "сервером" и не забывать о "клиентах". На самом деле все прще - задача решаерся совместно, каждый несет свои знания в копилку. Но копилка становится общей. И знания (тоже соответсвенно становятся общими). Хотя я понимаю, что трудно оказаться от своего приоритета в "главных" знаниях, но к, сожалению, этого не бывает. Потому как каждый из нас считает счои знания самыми важными. И с этим надо смириться.
Надумаешь. Чиркни пару строчек, или я чиркну.
Это преложение о совместной работе?
Можно считать и так. Зависит только от растановки приоретов.