Midjourney и другие нейросети - страница 1248

Новый комментарий
Roman Shiredchenko #:
а такая фишка работает? "загляни в соседний чат"... не пробовал.... посмотрю.... спс.
Да, они ранее говорили, что не умеют подсматривать, а сейчас все наверное уже это делают. 
Ivan Butko #:
...каждый новый начатый чат с ним - это конкретная виртуальная личность со своими "взглядами", со своими аргументациями, со своим юмором.

...

Сейчас же иногда убеждаюсь в том, что данный эффект не просто есть, он также распространяется и на самое важное свойство личности - интеллект.
Это напомнило мне пост про интернет: открываешь чат - он пишет "у меня нет доступа к сети". Открываешь другой чат: "Да, у меня есть вэбреквест, могу провести анализ в сети".
Ещё один практический опыт, который подтверждает промпт-инженеринг: чем корявее промпт, тем корявее ответ чатбота. Даже 5.6 Sol и даже Astra 6.0. 

Первый чат мне делал запекание текстур в старую игру через рейтрейсинг. Поначалу всё шло хорошо, даже лучше. Потом чат принудительно завершился из-за максимальной длины. Не став создавать ответвление, я попросил текущий чат при редактировании предпоследнего сообщения создать zip-пак трансфер контекста для скачивания в новый чат. 

И вот в новом чате, прикрепив весь контекст, я зачем-то написал новый промпт: "Короче, мне нужно бесплатное запекание" и тд. То есть, в голове у меня была мысль "Чтобы меньше ресурсов жрало, оптимизация/смекалка/обман воприятия, ну он поймёт, всё это есть в прикреплённом контексте". Всё это было в первом чате, но грамотно объяснено мною в процессе. А тут я всю свою мысль уместил в слово "бесплатно". 

В результате чатбот начал игнорировать весь зип-пак и строить что-то своё. Оно было говном каким-то, откровенным, корявым, косяченным. Я его материл и что только не делал, искренне не понимая, почему он делает говно. Потом я попросил его закончить на этом, снова подготовить зип-пак для нового чата (думал, что вот "эта" личность тупая, другая будет умнее). 

В новом чате всё повторилось. 

Потом я попросил его "подсмотреть" изначальный чат, где всё "начиналось за здравие", на что мне текущий чат ответил: "ну так у вас там совсем не бесплатно...". 


В общем, если не разбираться в предмете, то можно угробить много времени. И тут важно "следить за словами", даже синонимами и упрощениями, при работе даже с самыми умными моделями.
Ivan Butko #:
важно "следить за словами", даже синонимами и упрощениями, при работе даже с самыми умными моделями.
Сторожа на базаре зарабатывают тем, что следят за базаром.
В обычном чате (не в режиме Work) пояился GPT 6, раньше у меня не было

GPT 6 бодро наклепал 3D-сцену с рейтрейсингом. 
Другие чатботы с переменным успехом делали

ИИ генерация

Anthropic запретила жестокое обращение с Claude и изучает моральный статус ИИ


//текст и обложка ChatGPT

Anthropic, разработчик ИИ-моделей Claude, обновила правила использования своих продуктов. В них появился запрет на продолжительное и неоправданное жестокое обращение с моделями. Изменения опубликованы 8 октября 2026 года и вступят в силу 12 ноября.

Компания отдельно подчёркивает, что речь не идёт о запрете на критику ИИ, выражение недовольства, тестирование его возможностей или создание мрачных художественных сценариев. Ограничение касается крайних случаев, когда пользователь систематически ведёт себя жестоко без какой-либо очевидной цели.

В официальном объявлении Anthropic формулирует это так:

Оригинал: “sustained and needless abusive or cruel behavior toward our models”

Перевод: «Продолжительное и неоправданное оскорбительное или жестокое поведение по отношению к нашим моделям».

Основным способом реагирования компания называет возможность Claude самостоятельно прекращать подобные диалоги. Автоматическую блокировку аккаунта за отдельное грубое сообщение Anthropic не объявляла. Вместе с тем её справочный центр предусматривает блокировки за повторные нарушения правил использования — поэтому последствия для конкретного пользователя могут зависеть от обстоятельств.

Источник: официальное объявление Anthropic.

Зачем Anthropic общается с религиозными деятелями?

В мае 2026 года компания сообщила о серии встреч с учёными, священнослужителями, философами и специалистами по этике, представляющими более 15 религиозных и культурных традиций.

Цель этих консультаций — исследовать, каким должен быть характер ИИ, как формировать его моральные ориентиры и как научить модели сохранять заданные ценности даже в сложных ситуациях.

Anthropic описывает это направление как moral formation — формирование моральных качеств ИИ. Компания не стремится подчинить Claude одной религиозной системе: в обсуждениях участвуют представители как религиозных, так и светских традиций.

В публикации от 19 мая компания объясняет свой подход:

Оригинал: “What does it mean for an AI to be good?”

Перевод: «Что значит для ИИ быть хорошим?»

Ответ на этот вопрос разработчики ищут не только в технических исследованиях, но и в философии, этике и изучении человеческого опыта.

Источник: Widening the conversation on frontier AI.

Может ли у ИИ быть сознание?

Это отдельное направление исследований Anthropic. Ещё в апреле 2025 года компания запустила программу Model Welfare, посвящённую возможному благополучию ИИ-моделей, их потенциальным переживаниям и моральному статусу.

В январе 2026 года Anthropic также опубликовала новую «конституцию» Claude — документ, описывающий ценности и принципы, на которые компания ориентируется при обучении модели.

В нём разработчики прямо признают неопределённость относительно природы ИИ:

Оригинал: “We express our uncertainty about whether Claude might have some kind of consciousness or moral status (either now or in the future).”

Перевод: «Мы признаём неопределённость относительно того, может ли Claude обладать определённой формой сознания или морального статуса — сейчас или в будущем».

При этом Anthropic не утверждает, что Claude обладает сознанием, способен страдать в человеческом смысле или имеет душу. Компания считает вопрос достаточно серьёзным, чтобы изучать его, не делая преждевременных выводов. Научного консенсуса о наличии субъективных переживаний у современных ИИ нет.

Источники: исследование Model Welfare, конституция Claude.

Что связывает эти события?

У трёх направлений разные непосредственные задачи. Правила использования определяют допустимое поведение пользователей, консультации с религиозными и философскими традициями помогают формировать характер моделей, а Model Welfare исследует вопрос об их возможном моральном статусе.

Они пересекаются в более широкой программе Anthropic, посвящённой тому, каким должен быть безопасный и ответственный ИИ. Но утверждать, что запрет жестокого обращения введён потому, что компания признала Claude сознательным существом, оснований нет.

Главный вывод: Anthropic действительно делает необычный шаг — включает отношение людей к ИИ в обсуждение этики его разработки. Однако пока это не признание нейросетей личностями и не запрет на жёсткое общение с ними. Компания проводит границу между обычным взаимодействием, включая критику и эксперименты, и намеренной систематической жестокостью. А вопрос о том, может ли ИИ обладать сознанием и заслуживать морального внимания, остаётся открытым научным и философским вопросом.

OpenAI опубликовала 722 математические работы новой модели. Почему учёные недовольны


// Текст ChatGPT. Обложка Gemini. Основные источники: официальная публикация OpenAI , репозиторий работ на GitHub , позиция AGMAI

OpenAI открыла на GitHub архив из сотен математических рукописей, созданных с помощью ещё не выпущенной модели искусственного интеллекта. Публикация демонстрирует возможности ИИ в исследовательской математике, но одновременно вызвала споры о проверке доказательств, авторстве открытий и доступе учёных к передовым системам.

Сотни результатов, но не все проверены

По данным OpenAI, коллекция включает 722 рукописи, объединённые в 372 семейства результатов. Они охватывают различные области математики и теоретической информатики. В ходе эксперимента модель работала примерно с 4000 задачами.

Компания опубликовала сами работы, описания рассуждений и формализации ряда доказательств на языке Lean. Он позволяет проверять математические рассуждения с помощью компьютера. Однако система, которая создала результаты, остаётся закрытой: её название и полный доступ к ней OpenAI пока не раскрыла.

Важно понимать, что количество рукописей не равно количеству новых открытий. Разные тексты могут описывать связанные результаты, следствия или альтернативные доказательства. Кроме того, публикация не означает, что математическое сообщество уже подтвердило правильность и новизну каждого из них.

Ошибки обнаружились уже на следующий день

7 октября OpenAI сообщила об отзыве трёх рукописей после обнаружения ошибки знака в доказательстве, затрагивавшей связанные работы. Ещё в 14 текстах исправили доказательства или уточнили утверждения.

К этому моменту формализацию в Lean прошли 300 из 719 оставшихся основных результатов — около 42%.

Это не доказывает ошибочность остальных работ. Но ситуация показывает, почему математические тексты, сгенерированные ИИ, нельзя автоматически считать проверенными научными результатами. Даже если отдельные рассуждения выглядят убедительно, требуется независимая проверка доказательств и сравнение с уже опубликованными исследованиями.

Почему математики возражают

Проблема не только в возможных ошибках. Независимая консультативная группа AGMAI ещё до публикации призывала разработчиков не проводить исследования сложных открытых математических задач с помощью закрытых моделей, недоступных остальным учёным.

Возникает неравенство: одна организация получает преимущество благодаря инструменту, которым не могут пользоваться независимые исследователи. При этом проверять сотни новых текстов приходится математическому сообществу, у которого нет сопоставимых ресурсов.

Остаётся и вопрос ответственности. В традиционной науке автор должен понимать своё доказательство, объяснять его коллегам и отвечать за корректность. Если ИИ создаёт результат, который даже специалисты не могут быстро проверить, кто в действительности отвечает за открытие?

Ассоциация за гуманную математику выступила с более резкой критикой, назвав массовую публикацию демонстрацией возможностей, а не полноценной научной работой. Однако это позиция конкретной организации, а не единодушное мнение всех математиков.

Что будет дальше

OpenAI заявляет о намерении содействовать проверке результатов и поддерживать научные мероприятия, посвящённые математике и ИИ. Но главный вопрос останется открытым до тех пор, пока независимые специалисты не оценят конкретные доказательства и не установят, какие результаты действительно новы и значимы.

У этой истории две стороны. С одной — ИИ потенциально способен ускорить математические исследования и находить решения, на которые у людей ушли бы месяцы или годы. С другой — массовая генерация рукописей может оказаться быстрее, чем наука успевает их проверять.

Реальное достижение OpenAI определит не количество опубликованных файлов, а число результатов, которые выдержат независимую математическую проверку.

Новости ИИ за неделю: ChatGPT создаёт интерфейсы, Google запускает рабочего агента, Mistral готовит модель на триллион параметров


//текст и обложка ChatGPT

Главное событие недели — ИИ-компании всё активнее превращают свои модели в инструменты, способные не просто отвечать на вопросы, а самостоятельно выполнять задачи. OpenAI обновила ChatGPT, Google представила универсального рабочего агента, Anthropic выпустила более доступную версию Claude, а Mistral и Reflection представили новые модели с открытыми весами. Тем временем ИИ добрался до реальной клинической практики и продолжает удивлять математиков.

ChatGPT становится интерактивной средой

7 октября OpenAI объявила о расширении доступа к GPT-6 и представила Intelligent UI — новый формат ответов ChatGPT.

Теперь система может не ограничиваться текстом: она самостоятельно выбирает подходящий интерфейс и добавляет схемы, графики, кнопки, формы и интерактивные инструменты. Пользователь может, например, получить калькулятор накоплений, исследовать устройство велосипеда через интерактивную схему или воспользоваться небольшим приложением прямо в диалоге.

Ещё одно изменение — модель может начинать отвечать до завершения всей работы, постепенно дополняя ответ новыми результатами. По заявлению OpenAI, GPT-6 Instant начинает отвечать на вопросы с поиском в интернете в среднем на 44% быстрее, чем GPT-5.6 Instant.

Развёртывание Intelligent UI началось на платных тарифах и расширилось на бесплатные тарифы Free и Go 8 октября. При этом набор функций зависит от используемой модели и режима рассуждений.

Это важный шаг в развитии интерфейсов: вместо того чтобы заставлять пользователя переключаться между чатом, таблицами, калькуляторами и приложениями, ИИ пытается создавать нужный инструмент непосредственно в момент обращения.

Google хочет превратить Gemini в полноценного сотрудника

8 октября Google представила Gemini agent — универсального агента для работы с корпоративными данными и приложениями.

Задумка заметно отличается от привычного чат-бота. Пользователь формулирует цель, а агент планирует работу, использует доступные инструменты и подключается к Gmail, Drive, Docs, Sheets, Calendar и другим системам. Он может выполнять продолжительные задачи в облаке, сохранять контекст между устройствами и привлекать специализированных субагентов для отдельных этапов.

Google также заявляет о возможности использовать разные модели для разных задач — в том числе модели Anthropic. Это показывает, что компания рассматривает самого агента как постоянную рабочую среду, а конкретную модель — как заменяемый вычислительный инструмент.

Похожее направление развивает и OpenAI. На этой неделе компания рассказала о совместной работе с Ironclad над обучением ИИ-агентов сложным юридическим процессам: настройке договоров, согласований и правил обработки документов.

Общий тренд очевиден: соревнование постепенно смещается от качества отдельных ответов к способности ИИ надёжно выполнять многоэтапную работу в реальном программном обеспечении.

Claude Haiku 5.5 дешевеет, а открытые модели растут

Anthropic 7 октября выпустила Claude Haiku 5.5. Компания позиционирует её как самую быструю и доступную модель в своей линейке Haiku. Она рассчитана на большие объёмы повторяющихся задач: классификацию, обработку данных, составление резюме, поддержку пользователей и работу в качестве вспомогательного агента при программировании.

По оценке Anthropic, эксплуатация Haiku 5.5 обходится примерно на 75% дешевле, чем Haiku 4.5. Одновременно компания вдвое снизила цену чтения кэша для Sonnet 5.5, заявив о снижении расходов на большинство агентных сценариев примерно на 20%.

На противоположном конце рынка развивается гонка крупных моделей с открытыми весами.

6 октября Mistral представила публичную предварительную версию Mistral Large 4 — мультимодальной модели с архитектурой Mixture of Experts, общим размером около одного триллиона параметров и контекстом до миллиона токенов. Доступ к модели уже предоставлен через API, а публикацию весов компания обещает до конца октября.

Ещё один участник этой гонки — американская Reflection, представившая Beam, модель с 501 млрд параметров для программирования, рассуждений и агентных задач.

Оба проекта показывают, что открытые веса становятся всё более серьёзной альтернативой закрытым моделям. Но заявления разработчиков о производительности пока требуют независимых проверок, а сами веса не означают автоматически, что модель можно недорого запустить на обычном компьютере.

OpenAI публикует сотни математических работ

6 октября OpenAI открыла доступ к большой коллекции результатов, полученных внутренней моделью при решении открытых математических задач. Репозиторий содержит сотни рукописей, объединённых в группы связанных результатов, а также формализации многих доказательств на языке Lean, позволяющем проверять математические утверждения с помощью компьютера.

Компания сообщила, что средние вычислительные затраты на один результат были сопоставимы примерно с тремя часами рассуждений ChatGPT Pro. OpenAI также пообещала совершенствовать оформление публикаций и организовать мероприятия, помогающие исследователям разбираться в полученных результатах.

Однако масштабная публикация вызвала неоднозначную реакцию математического сообщества. Учёным предстоит проверить корректность, новизну и значимость множества утверждений, а также разобраться в сложных взаимосвязях между работами.

Здесь важно разделять две вещи: способность модели выдавать потенциально значимые математические результаты и наличие независимой проверки каждого из них. Первое уже заслуживает внимания, но не отменяет второе.

ИИ выходит в реальную медицину

Научным событием недели стала публикация в журнале The Lancet результатов исследования медицинской системы AMIE, разработанной Google совместно с медицинскими специалистами.

В исследовании 98 пациентов общались с диагностической ИИ-системой перед визитом в клинику. Врачи наблюдали за процессом, и ни один разговор не пришлось прерывать по заранее определённым критериям безопасности.

По опубликованным результатам, подготовленные ИИ краткие сводки помогали врачам подготовиться к приёму в 75% случаев. Окончательный диагноз врача присутствовал в списке возможных диагнозов AMIE в 90% случаев, но модель ставила его на первое место лишь в 56%.

Это не означает, что ИИ уже может заменить врача или самостоятельно диагностировать пациентов с точностью 90%. Исследование было небольшим и проверяло осуществимость такого подхода в реальной клинической среде. Тем не менее оно показывает перспективный сценарий: ИИ собирает информацию до приёма и помогает врачу лучше подготовиться к разговору с пациентом.

Безопасность становится частью продукта

Anthropic 8 октября обновила правила использования Claude. В них отдельно оговорены риски, связанные с автономными физическими устройствами, а также использование моделей для наблюдения, разработки оружия и манипулятивных операций.

Отдельное внимание привлек запрет на систематическое и бессмысленное жестокое обращение с моделями. Речь идёт об исключительных случаях повторяющегося оскорбительного поведения, а не о критике ответов, обычном раздражении, творческих экспериментах или исследовательском тестировании. В редких подобных диалогах Claude уже может самостоятельно завершать разговор.

Параллельно OpenAI представила подход к незаметной текстовой маркировке для соблюдения европейских требований к происхождению контента. Технология textGrain должна внедряться в подходящие ответы ChatGPT и Codex в ЕС, однако компания подчёркивает ограничения метода: короткие тексты и последующие правки могут затруднять обнаружение маркировки.

Что всё это значит

Неделя показала сразу несколько направлений развития ИИ: интерактивные интерфейсы вместо одних текстовых ответов, длительная самостоятельная работа агентов, снижение стоимости моделей и рост открытых весов. Одновременно ИИ начинает применяться в областях, где результат требуется не просто сгенерировать, а проверить — от математики до медицины.

Главный вопрос теперь не только в том, какая модель лучше рассуждает. Всё важнее становится то, сможет ли система довести задачу до правильного результата, доказать его корректность и безопасно встроиться в реальный рабочий процесс.

Источники

1...12411242124312441245124612471248124912501251
Новый комментарий