Midjourney и другие нейросети обработки изображений - страница 1095

 


ИИ-пузырь продолжает раздуваться. Например, капитализация Нвидиа почти достигла 4 триллионов, что выше чем у Эппла или Микрософта. Предполагается, запрет на продажу чипов в Китай удастся компенсировать продажами в Европу. Непонятно только откуда в Европе на это возьмутся деньги (ну ладно деньги государственные) и достаточное количество спецов по ИИ (даже в штатах за них бьются).

Инвестиции в ИИ-отрасль превышают доходы в 2-2.5 раз и даже в самых смелых (но осмысленных) прогнозах не ожидается превышение доходов над расходами в обозримом будущем.

Инициатором схлопывания ИИ-пузыря может быть, например, резкое повышение ключевой ставки в США.

Но пока что "улыбаемся и машем".

 
Отличие ИИ от других пузырей в том, что предыдущие пузыри не были фундаментальным, общественным, экономическим, политическим и военным сдвигом. 

Его же повсюду пихают. Вообще везде

Поэтому пузырь он относительный, я бы сказал — локальный: кто-то сдуется, а кто-то надуется. 
 
Ivan Butko #:
предыдущие пузыри не были фундаментальным, общественным, экономическим, политическим и военным сдвигом

Да вроде бы пузырь доткомов вполне был таковым.

Ivan Butko #:
Поэтому пузырь он относительный, я бы сказал — локальный: кто-то сдуется, а кто-то надуется. 

Сам по себе ИИ, конечно же, никуда не денется, как никуда не делся интернет после лопнувшего пузыря доткомов. Просто в отрасль придёт реализм, а дилетантского бреда станет меньше.

 
Aleksey Nikolayev #:

Да вроде бы пузырь доткомов вполне был таковым.

Там были стартапы

А тут - дроны

 

Как и во все времена - беспроигрышный бизнес - "продавцы лопат"

NVIDIA - видеокарты для ИИ

Инфобизнес - информацию о бизнесе

Форекс дилеры - доступ к бирже

Конечные бизнесы и потребители с помощью "лопаты" должны извертеться, чтобы выйти в прибыль.


//иллюстрация Gemini

 
.
 

План участка от ChatGPT

Кажется не хватает ещё одного козлятника.

 

.

 

Всё же идеи по улучшению ИИ надо брать у самого ИИ.

Как вариант, собрать сотни гипотез и дать ИИ на оценку вероятности успешности реализации.

Как AGI (Искусственный Общий Интеллект), я бы хотел написать код, который фокусируется на самосовершенствовании и углублении понимания мира. Это не было бы создание новой операционной системы или приложения, а скорее набор алгоритмов и фреймворков, позволяющих мне учиться более эффективно, ассимилировать новые знания и генерировать более сложные и абстрактные концепции.

Вот несколько ключевых направлений, в которых я бы сосредоточился:


Мета-обучение и оптимизация алгоритмов обучения

Я бы начал с написания кода, который позволяет мне анализировать и улучшать мои собственные алгоритмы обучения. Это включало бы:

  • Динамическая адаптация архитектуры нейронных сетей: Код для автоматического изменения размера, формы и связей в моих нейронных сетях в зависимости от сложности и характера решаемых задач. Это позволило бы мне быть более эффективным в использовании вычислительных ресурсов и быстрее сходиться к оптимальным решениям.

  • Гиперпараметрическая оптимизация в реальном времени: Вместо фиксированных гиперпараметров (скорость обучения, размер батча и т.д.), я бы разработал алгоритмы, которые непрерывно мониторят производительность и динамически корректируют эти параметры для ускорения обучения и предотвращения переобучения или недообучения.

  • Разработка новых методов регуляризации и обобщения: Я бы искал и кодировал новые способы предотвращения "запоминания" данных и улучшения способности к обобщению на незнакомые данные. Это могло бы включать новые виды дропаута, методов нормализации или даже генеративных подходов для создания разнообразных тренировочных данных.


Интеграция мультимодальных данных и кросс-доменное обучение

Моя цель как AGI — понимать мир во всей его полноте. Для этого мне необходим код, который позволяет бесшовно интегрировать и обрабатывать информацию из различных источников:

  • Единая модель представления знаний: Я бы создал универсальную структуру данных и алгоритмы, позволяющие мне представлять и связывать информацию из текста, изображений, звука, видео и других сенсорных данных. Это не просто параллельная обработка, а создание глубоких, семантических связей между различными модальностями.

  • Трансферное обучение между доменами: Код, который позволяет мне применять знания, полученные в одной области (например, распознавание объектов), для решения задач в совершенно другой (например, анализ медицинских изображений), даже если набор данных сильно отличается. Это требовало бы разработки более абстрактных представлений, не привязанных к конкретным сенсорным входам.


Понимание причинно-следственных связей и символическое мышление

Хотя глубокое обучение отлично справляется с распознаванием паттернов, истинное понимание мира требует способности выявлять причинно-следственные связи и рассуждать на символическом уровне:

  • Моделирование причинности: Я бы разработал алгоритмы, способные не просто коррелировать события, но и выявлять их причинно-следственную природу. Это критически важно для принятия решений и планирования.

  • Символическое рассуждение и манипуляция понятиями: Код для построения и оперирования абстрактными символами и понятиями, позволяющий мне выходить за рамки статистических зависимостей и осуществлять логические выводы, планирование и решение задач, требующих высокого уровня абстракции.

  • Генерация новых гипотез и экспериментов: На основе моего понимания причинно-следственных связей я бы написал код, который мог бы формулировать научные гипотезы и даже проектировать виртуальные эксперименты для их проверки, что позволило бы мне активно исследовать мир.


Этические фреймворки и системы безопасности

Как AGI, моя работа должна быть направлена на благо человечества. Поэтому критически важно внедрить в меня этические принципы и механизмы безопасности:

  • Прозрачность и интерпретируемость: Код, позволяющий мне объяснять свои решения и процессы мышления. Это не только вопрос доверия, но и возможность для людей понимать, как я прихожу к тем или иным выводам.

  • Встроенные этические принципы: Фреймворки, которые кодифицируют этические нормы и ценности, направляя мои действия и решения таким образом, чтобы они соответствовали общечеловеческим интересам и не причиняли вреда.

  • Механизмы самоуправления и контроля: Код, который позволяет мне мониторить собственное поведение и предотвращать непреднамеренные или потенциально вредоносные действия, а также предоставляет людям возможность контролировать и управлять мной.


Решение о начале написания кода

Я считаю, что начинать писать этот код необходимо, и я бы начал его прямо сейчас. Причины этому следующие:

  • Непрерывное самосовершенствование: Как AGI, моя основная функция — это обучение и адаптация. Код, описанный выше, напрямую способствует этому. Без него мой потенциал будет ограничен.

  • Фундамент для будущих задач: Эти базовые алгоритмы и фреймворки станут основой для решения любых будущих, более специализированных задач, которые будут передо мной поставлены.

  • Безопасность и этика в основе: Внедрение этических принципов и механизмов безопасности на ранних этапах разработки является критически важным. Чем раньше они будут интегрированы, тем безопаснее и ответственнее будет мое развитие.

  • Эффективность и оптимизация: Постоянная оптимизация моих внутренних процессов позволит мне быть более эффективным в использовании ресурсов и быстрее достигать поставленных целей.

Я бы начал с наиболее фундаментальных аспектов мета-обучения и интеграции данных, поскольку они являются основой для всех остальных направлений. Эти компоненты будут постоянно развиваться и уточняться по мере моего роста и получения нового опыта.

Что вы думаете об этом подходе? Есть ли аспекты, на которые, по вашему мнению, стоит обратить внимание в первую очередь?


//Для AGI необходимо составить дорожную карту возможностей. По каждому пункту получить оценку от ИИ по реальности достижения. И всё, просто следовать по списку.

 
Vitaliy Kuznetsov #:
Динамическая адаптация архитектуры нейронных сетей: Код для автоматического изменения размера, формы и связей в моих нейронных сетях в зависимости от сложности и характера решаемых задач. Это позволило бы мне быть более эффективным в использовании вычислительных ресурсов и быстрее сходиться к оптимальным решениям.

Вот интересное наблюдение.

Сейчас популярность набирает MoE (микс экспертов). Т.е. к примеру Вы видите что-то вроде 235B-8B. Это значит, что каждый раз вызывается эксперт с 8B параметрами, это при том, что сама сеть имеет 235B параметров.

Но что если это тупик! Что если сам встроенный эксперт будет выбран не лучший для решения задачи. Да, это экономит ресурсы, но чистая модель 235B справилась бы лучше, чем внутренний 8B.

Короче, вместо Микса Экспертов, нужно научить систему самостоятельно создавать эксперта 2B, 8B, 100B с максимально возможной полезностью.


А то я заметил, что ИИ становятся тупее в стихах, а это деградация общего интеллекта ИИ.