ФорумРазделы

Обсуждение статьи "Глубокая нейросеть со Stacked RBM. Самообучение, самоконтроль" - страница 3

Новый комментарий
А где же взять Revolution R Open именно версии 3.2.2, которая использовалась в статье? Я так понимаю, что актуальная версия Microsoft R Open 3.2.4 может не совсем подойти?
Пробежался быстро по статье. Меня давно интересовал вопрос о претренинг. Ответа не нашёл. По существу глубокие сети это те же старые сети обучаемыемые backpropagation, но с претренингом, который улучшает сходимость к глобальному минимуму. Претренинг делается по методу Contrastive Divergence. В статье он не описан. Если автор разобрался с этим методом, не мог бы он объяснить его.
Andriy Konovalov:
А где же взять Revolution R Open именно версии 3.2.2, которая использовалась в статье? Я так понимаю, что актуальная версия Microsoft R Open 3.2.4 может не совсем подойти?

Эта версия вполне подойдет как и R3.2.5.

Удачи

Vladimir:
Пробежался быстро по статье. Меня давно интересовал вопрос о претренинг. Ответа не нашёл. По существу глубокие сети это те же старые сети обучаемыемые backpropagation, но с претренингом, который улучшает сходимость к глобальному минимуму. Претренинг делается по методу Contrastive Divergence. В статье он не описан. Если автор разобрался с этим методом, не мог бы он объяснить его.

Смотрите предыдущую статью.

Если будут вопросы после прочтения задавайте.

Удачи

Vladimir Perervenko:

Смотрите предыдущую статью.

Если будут вопросы после прочтения задавайте.

Удачи

Посмотрел. Не нашёл. Пожалуйста cut & paste здесь абзац о Contrastive Divergence. Также объясните на примере.
Vladimir:
Посмотрел. Не нашёл. Пожалуйста cut & paste здесь абзац о Contrastive Divergence. Также объясните на примере.

Радел статьи 2.2.2. Теория и принципы - если не нашли ответа в приложениях к статье, поиск (Сравнительное расхождение (сопоставительное отклонение) (Contrastive Divergence CD-k)).

Удачи

Смотрите по ссылкам https://www.google.com.ua/search?q=%D0%A1%D1%80%D0%B0%D0%B2%D0%BD%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE%D0%B5+%D1%80%D0%B0%D1%81%D1%85%D0%BE%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5+%28%D1%81%D0%BE%D0%BF%D0%BE%D1%81%D1%82%D0%B0%D0%B2%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE%D0%B5+%D0%BE%D1%82%D0%BA%D0%BB%D0%BE%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5%29+%28Contrastive+Divergence+CD-k%29&ie=utf-8&oe=utf-8&gws_rd=cr&ei=q9syV53CH6mk6ATNuYTYAg
Vladimir Perervenko:

Радел статьи 2.2.2. Теория и принципы - если не нашли ответа в приложениях к статье, поиск (Сравнительное расхождение (сопоставительное отклонение) (Contrastive Divergence CD-k)).

Удачи

Это что ли:

Процесс CD-k выглядит следующим образом:

  1. Состояние видимых нейронов приравнивается к входному образу;
  2. Выводятся вероятности состояний скрытого слоя;
  3. Каждому нейрону скрытого слоя ставится в соответствие состояние "1" с вероятностью, равной его текущему состоянию;
  4. Выводятся вероятности видимого слоя на основании скрытого слоя;
  5. Если текущая итерация меньше k, то возврат к шагу 2;
  6. Выводятся вероятности состояний скрытого слоя;
Что значит "выводятся вероятности"?
Vladimir:

Это что ли:

Процесс CD-k выглядит следующим образом:

  1. Состояние видимых нейронов приравнивается к входному образу;
  2. Выводятся вероятности состояний скрытого слоя;
  3. Каждому нейрону скрытого слоя ставится в соответствие состояние "1" с вероятностью, равной его текущему состоянию;
  4. Выводятся вероятности видимого слоя на основании скрытого слоя;
  5. Если текущая итерация меньше k, то возврат к шагу 2;
  6. Выводятся вероятности состояний скрытого слоя;
Что значит "выводятся вероятности"?

Вам нужна теория и математический аппарат?

В русскоязычной части интернета много материалов на эту тему, поиск Вам поможет.

 В статье не ставилась задача освещения теории. Только применение.

Удачи

12345678910
Новый комментарий