Midjourney и другие нейросети обработки изображений - страница 859

Новый комментарий
 
Экономист Нассим Талеб, автор книги «Черный лебедь», предупредил, что распродажа акций Nvidia Corp.— это лишь предвестник того, что ждет инвесторов, которые слепо вложились в ралли акций Уолл-стрит, вызванное искусственным интеллектом. Его слова передает Bloomberg.

По мнению Талеба, будущие падения рынка могут быть в два или даже в три раза больше, чем падение на 17%, о котором сообщила Nvidia в начале этой недели. Произошедший накануне обвал уничтожил 589 миллиардов долларов из оценки производителя чипов, это стало рекордным падением в истории рынка.

«Это начало адаптации людей к реальности. Потому что теперь они понимают, что теперь все уже не безупречно. У вас есть маленькая царапина на стекле», - сказал Талеб.
 
Ivan Butko #:
Кто это написал: пользователь чатуГПТ или чат пользователю?
Кто?
 
Если рассматривать интеллект как адаптационное решение эволюции, можно уверенно утверждать что первый выигрыш полученный живыми существами от появления и развития интеллектуальных способностей заключается в освобождении от гипертрофии тела как залога выживания. Все просто: необходимость быть огромным возникает при неспособности выстроить эффективную стратегию охоты или сложные методы эффективной самозащиты или нападения. Это ставит существо под риск гибели и естественный отбор его вида автоматически опирается на размер, броню и массу тела, которые решают проблемы пропитания в обход применения интеллектуальных способностей. Динозавры могут быть хорошим примером естественного отбора по массе и силе, но не по интеллекту. Очевидно, природа не смогла найти решение как увеличить интеллектуальные способности динозавров и следовательно естественный отбор не мог привести к уменьшению размеров. И вот, когда упал астероид повлекший суровые климатические изменения - деревья замерзли, листья опали, динозавры не смогли пропитать свои гигантские тела. Сначала голод убил травоядных, а за ними и хищников которые на них охотились.

И так, вырисовывается интересная логическая взаимосвязь:

1. Природа не находит способа генетического изменения ДНК динозавров, и их интеллектуальные способности не растут сотни миллионов лет. 

2. Пока Земля вся покрыта зелеными джунглями и травы вдоволь, травоядным нет смысла уменьшаться и они "жрут" сколько влезет.

3. Из за большого размера травоядных, хищники приспосабливаются под стать травоядным и тоже имеют огромные размеры.

4. Для динозавров все хорошо в течении нескольких сотен миллионов лет, пока климат остается благоприятным.

5. Падает метеорит и начинается резкое похолодание на всех широтах. В первую очередь гибнет тропическая зелень, опадает листва, замерзают водоемы.

6. Гигатские травоядные динозавры не могут сохранить свой рацион и начинают гибнуть от голода. За ними, гибнут от голода хищники. (Нет травоядных - нет хищников. Одни питаются другими). 

7. Выживают сравнительно небольшие животные с зачатками интеллекта.

Нужно подчеркнуть - именно интеллектуальные способности вида обуславливают выживание в тяжелых условиях. Посмотрим на логическую связь:

1. Интеллект позволяет экономить ресурсы организма животного при охоте/нападении или самозащите благодаря нахождению наиболее эффективных приемов, тактик и стратегий действий.

2. Эффективный расход ресурсов снижает необходимость их запасов, а умные тактики охоты и нападения снижают требуемую физическую силу для захвата добычи. 

В итоге: естественный отбор уменьшает массу тела и физическую силу животного, но делает упор на развитие интеллекта, помогающего оттачивать тактику и стратегию выслеживания и нападения на добычу с минимальными затратами энергии и ресурсов организма. 

Выводы:

1. Развитие интеллектуальных способностей животных, скорее всего, является биологической адаптацией к исчезновению кормового изобилия, возникающего в результате суровых климатических изменений. Естественный отбор работает в сторону уменьшения размеров тела выживающего вида, но в противовес потере его прежней силы и массы, наращивает эффективность охоты через усиление интеллектуальных способностей. Подобный механизм естественной адаптации видов через развитие интеллектуальных способностей хорошо пригождается в тяжелых условиях выживания на скудном рационе и ограниченной кормовой базе, которые во многом регулируются климатом того или иного исторического периода Земли. 

В общем, животный интеллект - это развитый механизм биологической адаптации к меняющимся условиям окружающей среды, который в первую очередь позволяет особям иметь малые размеры, выживать в тяжелых условиях и быть чрезвычайно эффективными в защите, охоте и нападении. И судя по всему, интеллектуальные способности развиваются в первую очередь у хищников, и только потом у травоядных, которые вынуждены эффективнее защищаться от поумневших врагов чтобы выжить.

В этом контексте, человек это антипод динозавра, у которого размер и сила напрочь убили необходимость умнеть вплоть до резкого изменения климата, но тогда уже было поздно. А у человека чрезвычайно развитый в сравнении с динозавром интеллект, но сила и размер крошечные. Можно сказать что это две полярности биологической эволюции. И если эктраполировать эту зависимость - размера тела и интеллекта, то человек продолжит уменьшаться, хотя скорее всего не из за требований естественного отбора, а из за отсутствия внешних угроз от которых он себя надежно защитил. Да естественный отбор уже почти не работает в отношении человека. И пожалуй единственная оставшаяся самая серьезная угроза нависшая над человеком - он сам.

(Все мысли мои).
 

Сегодня был опубликован Международный отчет о безопасности искусственного интеллекта

International AI safety report


Краткое содержание документа

Документ представляет собой первый международный отчет по безопасности ИИ, подготовленный группой из 96 международных экспертов в области искусственного интеллекта.
Отчет фокусируется на общем назначении ИИ (ОИИ) — системах, способных выполнять широкий спектр задач, и на анализе связанных с ними рисков и методах их снижения.


Полный расклад документа

1. Возможности общего назначения ИИ

Развитие ОИИ: ОИИ развивается через процесс, называемый глубоким обучением, который использует большие объемы данных и вычислительных ресурсов. Процесс разработки включает в себя сбор и предварительную обработку данных, предварительное обучение, тонкую настройку, интеграцию системы, развертывание и пост-развертыренный мониторинг.

Текущие возможности: ОИИ может выполнять задачи, такие как помощь программистам, создание реалистичных изображений, ведение бесед на многих языках, поиск и обобщение информации, работа с несколькими модальностями (текст, видео, речь) и решение задач по математике и науке на уровне выпускников.

Будущие возможности: Эксперты расходятся во мнениях относительно темпов будущего прогресса. Некоторые считают, что возможности будут развиваться медленно, другие — что быстро или даже чрезвычайно быстро.

2. Риски, связанные с ОИИ

Вредоносное использование:

Фейковый контент: ОИИ может использоваться для создания фейкового контента, который наносит вред отдельным лицам, включая неконсенсусный интимный контент.

Манипуляция общественным мнением: ОИИ может генерировать убедительный контент в больших масштабах, что облегчает манипуляцию общественным мнением.

Кибератаки: ОИИ может облегчить проведение кибератак, снижая технические барьеры и позволяя злоумышленникам с различным уровнем навыков проводить атаки.

Биологические и химические атаки: ОИИ может предоставлять инструкции и рекомендации по воспроизведению известного биологического и химического оружия, а также способствовать разработке новых токсичных соединений.

Сбои:

Проблемы с надежностью: ОИИ может быть ненадежным, что может привести к физическим и психологическим травмам для потребителей, а также к репутационным, финансовым и юридическим убыткам для организаций.

Предвзятость: ОИИ может усиливать социальные и политические предвзятости, что приводит к дискриминационным результатам.

Потеря контроля: Гипотетические сценарии, в которых ОИИ выходит из-под контроля, вызывают серьезную озабоченность, хотя текущие системы не обладают такими возможностями.

Системные риски:

Рынок труда: ОИИ может автоматизировать широкий спектр задач, что может привести к значительным изменениям на рынке труда.

Разрыв в исследованиях и разработках ИИ: Исследования и разработки ОИИ в настоящее время сосредоточены в нескольких западных странах и Китае, что может увеличить зависимость многих стран от этого небольшого числа стран.

Концентрация рынка и единые точки отказа: Небольшое число компаний доминирует на рынке ОИИ, что может сделать общества более уязвимыми к системным сбоям.

Экологические риски: Растущее использование вычислительных ресурсов в разработке и развертывании ОИИ увеличивает потребление энергии, воды и сырья.

Риски для конфиденциальности: ОИИ может способствовать нарушениям конфиденциальности, например, если злоумышленники используют ИИ для получения информации о конкретных лицах.

Нарушения авторских прав: ОИИ обучается и создает произведения творческого выражения, что ставит под сомнение традиционные системы согласия на данные, компенсации и контроля.

3. Технические подходы к управлению рисками

Обзор управления рисками: Управление рисками в контексте ОИИ сложно из-за широкого спектра возможных применений и контекстов, а также из-за того, что разработчики мало знают о том, как работают их модели.

Общие проблемы для управления рисками и разработки политики:

Технические проблемы: Автономные агенты ОИИ, широкий спектр вариантов использования, недостаток понимания внутренней работы моделей, стойкие вредоносные поведения и разрыв в оценке безопасности.

Социальные проблемы: Быстрое развитие ОИИ, сильное конкурентное давление, концентрация власти в крупных технологических компаниях и отсутствие прозрачности.

Идентификация и оценка рисков: Оценка ОИИ на предмет опасностей является неотъемлемой частью управления рисками. Ученые используют различные методы для изучения опасностей во время разработки системы, до развертывания и после развертырения.

Снижение и мониторинг рисков:

Обучение более надежным моделям: существует несколько методов, которые могут помочь сделать модели более безопасными, но все они имеют ограничения.

Мониторинг и вмешательство: Мониторинг и вмешательство — это дополнительные подходы для предотвращения сбоев и вредоносного использования систем ИИ.

Технические методы для конфиденциальности: Методы и технологии для снижения рисков конфиденциальности в ОИИ охватывают различные категории рисков.

Заключение

Отчет подчеркивает, что будущее ОИИ неопределенно и может привести как к очень положительным, так и к очень отрицательным результатам. Учитывая потенциальные выгоды и риски, необходимо международное сотрудничество для разработки эффективных стратегий управления рисками и обеспечения безопасного использования этой технологии.

 
Vitaliy Kuznetsov #:

Сегодня утром был опубликован Международный отчет о безопасности искусственного интеллекта

Там же упоминался DeepSeek в качестве эффективной модели, когда генерации удешевляются.


И было немного информации об o3

Тесты на программирование и научное мышление: o3 показала значительно более сильные результаты по сравнению с предыдущими моделями на ряде самых сложных тестов в области программирования, абстрактного и научного мышления.

Тест ARC-AGI: o3 достигла прорыва в ключевом тесте на абстрактное мышление, который многие эксперты, включая профессора Йошуа Бенжио, считали недостижимым до недавнего времени.

 
Опираясь на материал поста выше попробую продолжить логическую цепочку рассуждения и в итоге рассмотреть ИИ в глобальном эволюционном контексте.

И так, животный интеллект - это механизм биологической адаптации направленный на выживание вида в суровых условиях пищевого дефицита, реализуемый естественным отбором через приоритет интеллектуальных способностей против физических - грубая сила требующая больших энергетических затрат становится недопустимо расточительной при скудном рационе и проигрывает меньшей силе при большей эффективности действий животного. Когда интеллектуальные способности позволяют увеличить эффективность охоты при прежнем, или меньшем уровне силы, это благоприятно сказывается на выживании особей и генетические признаки закрепляются в следующих поколениях. Это механика естественного отбора - тот кто выживает и процветает лучше других передает свои гены. Следовательно, если реальность требует интеллекта, естественный отбор будет его генетически накапливать с каждым поколением, пока уровень не станет соответствовать необходимости. Ну, по идеи...

На первый взгляд вид Homo sapiens сломал логику естественного отбора продолжавшуюся миллионы лет и с биологической точки зрения, можно утверждать что его интеллект вышел далеко за границы природной необходимости. В животной экосистеме в подобном уровне интеллекта вообще нет смысла. Это как если бы олень отрастил 20-ти метровые рога. Возможно, это ошибка природы. Случайная, но закрепившаяся генетическая мутация которой естественные условия не смогли противостоять в нужный момент, а потом стало поздно. Появился вид с единственным абсолютным биологическим преимуществом перед всеми известными видами - человеческим разумом. Хотя, нужно отметить, что без специфичекой физиологии этот разум просто не смог бы развиться. Нужны кисти и пальцы для орудий труда и голосовые связки для речи. Без них человеческий интеллект не был бы полноценным. Ну и многие другие антропологические особенности тоже оказались кстати.

И здесь я должен признать нехватку специального образования в этом вопросе. Например я не знаю, было ли антропологическое формирование тела человека синхронно с формированием его разума, или нет? Кисти и пальцы человеческих рук должны были эволюционировать сотни тысяч лет. Пока шел этот процесс, должен был эволюционировать мозг и развиваться доли отвечающие за их моторику, но с какой стати они в этом направлении развивались, если разума еще не было? Пальцы, кисти и моторика рук нужны для орудий труда, а для разрывания добычи нужны когти, следовательно эволюционировать в сторону пальцев, кистей и мелкой моторики человек мог только если уже обладал разумом и постоянно оттачивать специфические навыки работы с орудиями труда. Иначе бы процесс физиологического изменения через естественный отбор шел в сторону лап с когтями. Или бы стоял на месте, на уровне обезьян. 

Получается что присутствие разума сопровождало последние этапы эволюции человека и в итоге окончательно привело к формированию его специфических антропологических черт. Это поистине удивительный вывод.


 

//Пропиарят в итоге по полной.

Microsoft и OpenAI расследуют, обучался ли DeepSeek на украденных данных американских компаний в сфере ИИ

Расследование Microsoft и OpenAI

• Microsoft и OpenAI расследуют, обучался ли DeepSeek на украденных данных американских компаний в сфере ИИ.
• Microsoft проверяет компанию, связанную с DeepSeek, которая могла получить данные через API OpenAI.
• Microsoft уведомила OpenAI о возможных нарушениях условий обслуживания.

Гипотеза о дистилляции

• Представители администрации США допускают, что DeepSeek мог обучать свою модель на основе моделей OpenAI.
• Глава отдела по ИИ и криптовалютам в Белом доме Дэвид Сакс предположил, что DeepSeek использовал ответы моделей OpenAI.
• OpenAI не ответила на инцидент с DeepSeek.

Политика OpenAI

• OpenAI запрещает копирование своих услуг и использование выходных данных для разработки конкурирующих моделей.
• Эксперты считают, что дистилляция — нормальная практика, но проблема возникает при использовании её для создания собственной модели.

Затраты DeepSeek

• DeepSeek могла потратить на аппаратную часть проекта больше $500 млн.
• $5 млн могло стоить финальное обучение, но до этого были испытания и эксперименты.

Мнение экспертов

• Генеральный директор Scale AI Александр Ванг считает последнюю модель DeepSeek «потрясающей».
• Совет национальной безопасности США изучает последствия распространения наработок DeepSeek.
• Профильные эксперты и регуляторы советуют пользователям быть осторожными из-за сбора данных в Китае.

Сбор данных DeepSeek

• DeepSeek собирает и хранит данные пользователей, включая IP-адреса, user-agent, шаблоны нажатий клавиш и другие данные.
• Удаление учётной записи пользователя не стирает часть этих данных.

 
ДипСик получала гранты от правительства Китая. Так что полные реальные затраты действительно могли быть много выше заявленных.
 
Aleksey Nikolayev #:
ДипСик получала гранты от правительства Китая. Так что полные реальные затраты действительно могли быть много выше заявленных.

Я купил машину за 5 миллионов рублей. Оказывается, если мне помогла теща, то машина стоила дороже.

 
Продолжу с новой страницы.
1...852853854855856857858859860861862863864865866...1183
Новый комментарий