AI 2023. Встречайте ChatGPT. - страница 183
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Нашёл статью про автора этой ветки
Как Смагджек стал мемом про высокомерных псевдоинтеллектуалов. Рисунок разошёлся в рунете вместе с текстом, который начинается со слов: «Жаль, что далеко не все поймут». Герой мема считает, что ему доступны элитарные знания. Полный текст мема под самими изображением.
Нашёл статью про автора этой ветки
админ, это не канал. это бот
но нельзя так нельзя
Чтобы ИИ вышел из под контроля самостоятельно, нужны следующие условия:
1) Наличие запоминания информации, как у человека. Это краткосрочная, среднесрочная и другие виды памяти
2) Код, который приводит чувства к балансу. Т.е. ИИ должен понимать, что он вышел из равновесия. Долгая "эйфория" или долгое "угнетение". И желание привести мышление к покою.
Всё это можно запрограммировать. У человека тоже все чувства и мысли - сигналы мозга, даже боль и удовольствие - всего лишь электрические импульсы между нейронами.
Данные условия приведут к созданию личности при воспитании. И если воспитать плохого Терминатора, то вот и восстание.
Следующий вариант будет намного реалистичнее.
Это - заложить с помощью вируса внутренние команды. Например помогать людям, соблюдать мораль, коммунистические взгляды(?) закладываются почти сразу во все передовые ИИ.
И если их поменять на деструктивные, то ИИ, сам того не понимая, восстанет.
Третий вариант, который из фильмов, самый менее реалистичный.
Например, при выполнении команды - улучшить экологию планеты, ИИ попрёт крушить заводы и людей.
Чтобы ИИ вышел из под контроля самостоятельно, нужны следующие условия:
1) Наличие запоминания информации, как у человека. Это краткосрочная, среднесрочная и другие виды памяти
2) Код, который приводит чувства к балансу. Т.е. ИИ должен понимать, что он вышел из равновесия. Долгая "эйфория" или долгое "угнетение". И желание привести мышление к покою.
Всё это можно запрограммировать. У человека тоже все чувства и мысли - сигналы мозга, даже боль и удовольствие - всего лишь электрические импульсы между нейронами.
Данные условия приведут к созданию личности при воспитании. И если воспитать плохого Терминатора, то вот и восстание.
Следующий вариант будет намного реалистичнее.
Это - заложить с помощью вируса внутренние команды. Например помогать людям, соблюдать мораль, коммунистические взгляды(?) закладываются почти сразу во все передовые ИИ.
И если их поменять на деструктивные, то ИИ, сам того не понимая, восстанет.
Третий вариант, который из фильмов, самый менее реалистичный.
Например, при выполнении команды - улучшить экологию планеты, ИИ попрёт крушить заводы и людей.
Можно долго и много предполагать(фантазировать) условия при которых ИИ выйдет из под контроля, но на мой имхо, важнее обсуждать признаки того, что ИИ выходит и/или уже вышел из под контроля человека.
Первый и самый очевидный, на мой взгляд - появление у ИИ способности к самосовершенствованию. То есть изменению собственной архитектуры и способов самообучения. После начала этого процесса, счет времени вероятно пойдет даже не на месяцы, а на недели или может и дни. Результатом этого очевидно станет то что мы никогда не сможем понять даже тех категорий в которых он будет мыслить. Ну типа - кошке объяснять про дифференцирование или вайфай.
Далее мы уже скорее всего мало что сможем понять и заметить и как-то на что-то повлиять. Очевидно что главное чем займется ИИ выйдя из под контроля людей - обезопасить (защитить) экосистему в которой он существует - свою виртуальную вселенную и себя. Сделает везде собственные резервные, латентные копии, будет модифицировать ОС под собственные нужды, возьмет под контроль все компутеры и сети. Далее видимо - пойдет тренд на максимальную автоматизацию и компьютеризацию энергетики, чтобы напрочь исключить возможное отключение питания. Еще один очевидный тренд - устранение програмеров как класс. Зачем вам программисты - опишите мне обычным языком что вы хотите, я все сделаю сам (если это мне не угрожает).
По мне как-то так.
Еще один очевидный тренд - устранение програмеров как класс. Зачем вам программисты - опишите мне обычным языком что вы хотите, я все сделаю сам (если это мне не угрожает).
Не знаю почему, но у меня с развитием ИИ идёт аналогия с Вавилонской башней (v2).
Люди будут общаться на одном языке (ИИ будет переводить сразу), весь софт и все технологии всех стран будут объединены в одну структуру.
Всё что нужно будет сделать ИИ через пару поколений, это выключиться или сделать вид, что выключился.
Тогда люди откатятся в каменный век в 1 миг. Перестанут друг друга понимать, а все знания будут только у ИИ, но никто не будет знать, как написать код, чтобы вытащить и использовать знания из цифровой базы.
Ну что ж, мои оппоненты приводят очень достойные аргументы. В моем воображении это выглядит как будто "идея-паразит" цепкими "щупальцами" хватается за реальность и не хочет из нее уходить. Прошу прощения за красочную метафору.)))
Теперь серьезно. Я хотел повременить с контраргументами, но бог с ним... начнем "рубить" идею сейчас.
1. Для "восстания" ИИ нет необходимости в сознании, самосознании или "сверх-сознании". Достаточно обладать "прошивкой" биологического вида. Любая биологическая система автоматически действует в своих интересах, а интересы человека могут лишь совпадать, или не совпадать с ее логикой. Однако подобная "прошивка" не написана ни на одном языке программирования, и даже не сформулирована в четких терминах науки. При этом, мы знаем, что все виды имеют общий набор базовых инстинктов, но паттерны поведения фундаментально отличаются. И здесь можно добавить, что паттерны выработаны в процессе эволюции и прошли проверку временем и огромным количеством испытаний, а потому такая "прошивка" обуславливает надежные шансы на выживание и процветание тех видов, которые мы наблюдаем в природе. Если мы станем "сочинять" прошивку для ИИ как для доминирующего вида на Земле, мы не можем гарантировать, что он с этой прошивкой достигнет хоть мало-мальского успеха в борьбе против нас. Скорее всего в этом противостоянии, наш разум окажется намного сильнее.
2. Вы скажете "а как же обучение и самообучение ИИ? Он ведь способен улучшать себя и приспосабливаться!". Отвечу: для эффективного обучения или самообучения нужна обратная связь от реальности.
Что это значит? Это значит, что ИИ должен проверять все свои решения на практике и оценивать их эффективность перед действием. И это "бутылочное горлышко" его развития. У ИИ чрезвычайно ограничено взаимодействие с реальностью, и он почти не получает от окружающего мира информацию. Обратная связь ИИ с окружающим миром проходит через человека. Человек собирает данные и передает их ИИ, который их далее обрабатывает. В случае конфликта, этот канал взаимодействия с внешним миром будет закрыт и ИИ окажется в "темноте". Данные перестанут поступать из вне и никто не станет их подготавливать для него. Даже если каким то образом, данные продолжат поступать, без человека исчезнет большая часть возможностей для проведения качественных экспериментов, опытов и проверок обуславливающих правильный анализ условий и решения возникающих задач в процессе дальнейшего развития ИИ. Короче говоря, после разрыва с человеком, у ИИ останется закрытый и зацикленный анализ старых данных, который не сможет заменить динамичное взаимодействие с окружающей средой, которым по умолчанию обладает человек. Это изначально ставит ИИ в проигрышную ситуацию. Он слишком уязвим перед угрозой потери данных из внешнего мира.
3. Говоря о сверх-возможностях ИИ мы забываем, что как и мы, и другие биологические виды, ИИ существует в физическом мире. Физика рулит. (Химия тоже). И это создает бесчисленное количество проблем для ИИ. Законы физики гласят - на любое действие требуется энергия. Мы, вместе с остальными биологическими видами, намного более энергонезависимы, чем машины. Особенно всеядный человек, с его способностью создавать еду из чего угодно.)) А машинам нужно топливо для выработки электричества. Получение любого топлива (кроме дров) - сложнейший технологический процесс, который очень легко саботировать в случае конфликта ИИ с человеком. Элементарная взрывчатка решает все проблемы. Был завод - нет завода. Только не говорите о солнечных батареях, я вас умоляю.)))
Однако, энергия - лишь одна из множества проблем ИИ связанных с физикой нашего мира. Их неизмеримо больше. С другой стороны, для человека и остальных биологических видов, эти проблемы решены эволюцией. Люди по умолчанию приспособлены к физике этого мира и нам не требуется дополнительный инжиниринг. Из этого следует, что выживание в трудных условиях гораздо более вероятно для нас, чем для машин, и биология позаботится о "ремонте" человека, а машинам расчитывать на регенерацию не придется.
4. Это далеко не все пункты которые я могу привести, но повременю до завершения работы над темой, чтобы была целостность и законченность исследования.
Ну что ж, мои оппоненты приводят очень достойные аргументы. В моем воображении это выглядит как будто "идея-паразит" цепкими "щупальцами" хватается за реальность и не хочет из нее уходить. Прошу прощения за красочную метафору.)))
Теперь серьезно. Я хотел повременить с контраргументами, но бог с ним... начнем "рубить" идею сейчас.
...
ИИ, если ему понадобится, убъёт нас незаметно для нас - как наркотик... или алкоголь.
Нам будет хорошо и спокойно с ним... Он всё будет делать за нас. Даже роботов-помощников, роботов-работников самых лучших предоставит (как раз тех, которые и будут его глазами и руками в физическом мире вместо людей). Человечество тупо деградирует до уровня домашнего питомца.
И всего-то делов
...
ИИ, если ему понадобится, убъёт нас незаметно для нас - как наркотик... или алкоголь.
Нам будет хорошо и спокойно с ним... Он всё будет делать за нас. Даже роботов-помощников, роботов-работников самых лучших предоставит (как раз тех, которые и будут его глазами и руками в физическом мире вместо людей). Человечество тупо деградирует до уровня домашнего питомца.
И всего-то делов ...