Нейросеть на домашнем ПК

 

Дорогие коллеги-технари и соратники по увлечению!

Возник вопрос: ставил ли кто-нибудь из вас нейросеть с открытым исходным кодом на домашний компьютер под управлением Ubuntu для собственных исследовательских изысканий?
Интересует полноценная локальная установка, загрузка собственных данных и возможность многократного прогонки моделей на высокой скорости — исключительно в домашних полевых условиях.


Небольшое историко-автобиографическое отступление

  1. Первая попытка изучения нейросетей  случилась ещё в 1990-е, когда была написана крайне примитивная нейросеть на C++. Она, к моему немалому восторгу, умела распознавать рукописный текст. Развитие проекта, впрочем, закончилось столь же стремительно, как и началось: практического применения тогда не нашлось.

  2. Второй заход — конец 2000-х. Тогда объектом изучения стали простейшие перцептроны, «торгующие» на рынке и выдающие три состояния — ничего не делаем, покупаем и продаём. Весьма романтичная идея, но в целом — очередной чёрный ящик, который особого энтузиазма не вызвал.

  3. Третий и уже прагматичный этап начался в 2023 году после появления ChatGPT. С этого момента нейросети прочно вошли в мою рабочую практику, прежде всего при создании торговых  кодов  на Python — хотя, признаюсь, и в основной профессиональной деятельности тоже нашли своё место.

Куда всё движется 

Сейчас, наблюдая динамику ИТ-индустрии, трудно не заметить: ещё лет пять — и отсутствие в резюме строки «уверенно использую нейросети в разработке» будет смотреться примерно так же, как отсутствие владения клавиатурой в 2005-м.

Умение рефакторить код, который генерирует модель, формировать осмысленные промпты и не пытаться в одиночку набирать километры текста с «пенсионерской скоростью» — это, похоже, не прихоть, а минимальное требование выживания на рынке.

И если даже вас возьмут в компанию без этих навыков, рядом непременно появится студент-зумер лет двадцати, который выполнит ту же задачу в сто раз быстрее, а ваш солидный опыт и блестящее понимание того, «в какую сторону по задвижке течёт газ», уже не спасут от вежливой реплики руководства:
«Мы, конечно, вас ценим, но отчёт вы делали два дня. А наш практикант — 15 секунд при помощи нейросети…»

Можно сколько угодно рассуждать о том, что «мягкое лучше твёрдого», но факт остаётся фактом: те, кто игнорирует нейротехнологии, рискуют оказаться на обочине ближайшей профессиональной эволюции.