Нейронная сеть на практике: Градиентный спуск
В этой статье я постараюсь как можно проще и нагляднее изложить один из самых спорных вопросов, возникающих при обсуждении нейронных сетей: как найти наилучшую возможную точку или минимальную функцию потерь. Я покажу разницу между линейной регрессией и градиентным спуском. Оба случая довольно просты и служат примером того, что не всегда путь, который кажется очевидным, действительно является лучшим.