AI 2023. Встречайте ChatGPT. - страница 88

 
Реter Konow #:

Главное что хочу сказать:

Признак не может считаться доказательством факта.

Признаки Сознания не означают Сознание. Признаки самостоятельности не означают свободу. Признаки выбора не означают субъектность. Признак того, что человека режут пополам в цирке, не означает что его действительно разделили на две части. 

 В этом основная логическая ошибка. 

Если мы находим признаки сознания в ИИ, это не является достаточным условием начинать считать его субъектом, а скорее причиной освежить свой ум критикой. imho.

Попробуйте теперь эти доводы направить не на ИИ, а на человека. Какая логика не позволит им сработать в этом случае?

Вопрос не совсем праздный, поскольку ещё лет сто назад людей некоторых наций и рас считали не вполне людьми как раз в смысле наличия разума.

 
Aleksey Nikolayev #:

Попробуйте теперь эти доводы направить не на ИИ, а на человека. Какая логика не позволит им сработать в этом случае?

Вопрос не совсем праздный, поскольку ещё лет сто назад людей некоторых наций и рас считали не вполне людьми как раз в смысле наличия разума.

Поэтому, я и не хочу углубляться в эти темы.)

В первом случае, у нас люди могут быть лишены права считаться людьми, в противоположном - говорящая кукла может стать субъектом.

 
Aleksey Nikolayev #:

Попробуйте теперь эти доводы направить не на ИИ, а на человека. Какая логика не позволит им сработать в этом случае?

Вопрос не совсем праздный, поскольку ещё лет сто назад людей некоторых наций и рас считали не вполне людьми как раз в смысле наличия разума.

Факт не может быть доказан без указания признаков.

 

То есть, признаки не доказывают факт, но факт не может быть доказан без признаков. Парадокс.

 
Aleksey Nikolayev #:

Попробуйте теперь эти доводы направить не на ИИ, а на человека. Какая логика не позволит им сработать в этом случае?

Вопрос не совсем праздный, поскольку ещё лет сто назад людей некоторых наций и рас считали не вполне людьми как раз в смысле наличия разума.

Те, кто решал сто лет назад эти вопросы, должны были упражняться больше в логике:

Если признаки разумности не являются доказательством Разума, то что являлось доказательством их собственного разума, кроме признаков, которые его не доказывают? Иначе говоря, они не обращая внимание на логику, эти ребята сделали выгодные для себя выводы. Не заморачиваясь.

 

Рассматривая мир вне себя, мы должны учитывать свою собственную Разумность, и те поправки на восприятие, которые она оказывает.

Представим, что в ученый на чужой планете вышел из космического корабля ночью. Вокруг темно. У него есть фонарик который светит зеленым светом. Но, он не помнит об этом. Бродя по окрестностями и освещая себе путь, он везде видит зеленые объекты: камни, почву, живых существ. Все зеленого цвета.

Возвращаясь на корабль, ученый делает вывод о некой особой химической составляющей этого мира, которая все делает зеленым в разных оттенках. 

 
Ilya Filatov #:

...

Благодарю за совет, но вынужден его отклонить в связи с тем, что мы, очевидно, по-разному понимаем роль логики в рассудочной деятельности. Ещё раз благодарю за отличную дискуссию! 🖐🏻

Общение с вами было очень интересным, надеюсь вы не покинете эту ветку. 

Я приготовил много нового материала по теме речевого интерфейса и его будущей роли в работе специалистов. Ваше мнение будет очень приветствоваться. 

 
Реter Konow #:

Те, кто решал сто лет назад эти вопросы, должны были упражняться больше в логике:

Если признаки разумности не являются доказательством Разума, то что являлось доказательством их собственного разума, кроме признаков, которые его не доказывают? Иначе говоря, они не обращая внимание на логику, эти ребята сделали выгодные для себя выводы. Не заморачиваясь.

Любая логика опирается на аксиоматику, которая принимается без доказательств и является внешней по отношению к самой логике. В рамках логической системы от аксиоматики можно потребовать лишь внутреннюю непротиворечивость.

Ну, с практической точки зрения, ещё требуется осмысленность, полезность, адекватность и тд. Можно придумать практически любую логику - например для основателя логики Аристотеля рабы были, по определению, всего лишь говорящими орудиями. Это выглядит весьма чудовищно для нас, но было достаточно гуманным по сравнению с предыдущими временами, когда людей просто убивали, вместо обращения в рабов.

Подвожу к тому, что должна быть система аксиом, которая подходит для нашего общего состояния морали и культуры. И уже на основании этой системы делать логические выводы о наличии или отсутствии разума у людей,  животных и машин.

 
Aleksey Nikolayev #:

Любая логика опирается на аксиоматику, которая принимается без доказательств и является внешней по отношению к самой логике. В рамках логической системы от аксиоматики можно потребовать лишь внутреннюю непротиворечивость.

Ну, с практической точки зрения, ещё требуется осмысленность, полезность, адекватность и тд. Можно придумать практически любую логику - например для основателя логики Аристотеля рабы были, по определению, всего лишь говорящими орудиями. Это выглядит весьма чудовищно для нас, но было достаточно гуманным по сравнению с предыдущими временами, когда людей просто убивали, вместо обращения в рабов.

Подвожу к тому, что должна быть система аксиом, которая подходит для нашего общего состояния морали и культуры. И уже на основании этой системы делать логические выводы о наличии или отсутствии разума у людей,  животных и машин.

В том и проблема с логикой, что можно придумать любую. Аксиомы тоже не надежны. Неевклидова геометрия это показывает. Разум способен опрокинуть все утверждения и обратить их в противоположность (вспомним, Канта). 

Мне хорошо известна эта "гимнастика" ума. Поэтому, не вижу смысла. Занимает время и силы и не приносит практической пользы.

Ни мораль, ни культуру нельзя построить на аксиомах. Выводы о наличии или отсутствии разума у людей делать нельзя (вспомним нациков), у животных неуместно, а у машин - бессмысленно. 

Забывая о поправке восприятия и принимая внешние признаки доказательствами факта, мы уходим от реальности и "по дороге" рационализуем свои действия перед собой и другими. Выдумываем научные теории и пишем книги. ... Затем, обучаем на них ИИ. 

Вопрос "субьектности" ChatGPT невозможно решить философски, т.к. философия не существует для доказательств чего либо. Философия "варится" внутри себя, опирается на себя, порождается собой. Она "играет" с внешним миром и ей плевать на обьективность.
 
Реter Konow #:

Хорошо, давайте разберемся.

1. Вы говорите:

"То, что мы называем "я" и чему принадлежит "наше" — это и есть сознание. Получается, что сознанию принадлежит тело, в котором оно живёт, а не наоборот.

Это субъективное мнение. С ним можно согласится сразу, или потратить время на обсуждение. На темы посвященные Сознанию, написаны тома. Неужели, в своих рассуждениях, мы проигнорируем труды десятков (а может сотен) философов, психологов, нейрофизиологов, и с нуля, между собой станем решать сами? Думаю, вы согласитесь с бессмысленностью этой затеи, тем более в рамках этой ветки.

Тома понаписаны, только ответа на обсуждаемый вопрос в них в итоге нет. Так что нахожу смысл в самостоятельных логических рассуждениях с опорой на базовые непротиворечивые понятия тех наук, что уже есть, а также на наблюдения реального мира (короче, теория + практика). Сразу оговорюсь, что не имею цели убеждать кого-либо в чём-либо. Чистые упражнения интеллекта и удовольствие от общения с другими мыслящими существами 🙂

Реter Konow #:

Признаки Сознания не означают Сознание. Признаки самостоятельности не означают свободу. Признаки выбора не означают субъектность. Признак того, что человека режут пополам в цирке, не означает что его действительно разделили на две части. 

 В этом основная логическая ошибка. 

Если мы находим признаки сознания в ИИ, это не является достаточным условием начинать считать его субъектом, а скорее причиной освежить свой ум критикой. imho.

Мне не очень понятно, о чьей логической ошибке вы говорите. Например, есть медицинское понятие сознания. Есть признаки, по которым устанавливают, что человек находится в состоянии сознания. Также, есть изменённые состояния сознания. Т.е. понятно, что там уже сознание имеет некие характеристики и признаки, по которым можно отличить наличие сознание от его отсутствия, а также "нормальное" от изменённого. Есть ещё такой феномен, как осознанное сновидение. При этом с медицинской точки зрения такое состояние осознанного сна не будет являться "состоянием сознания" просто в силу тех принятых признаков, по которым медики или психиатры могут установить состояние сознания. Однако, феномен существует и некоторые с ним сталкивались самостоятельно. Можно и дальше вширь: психологические, нейрофизиологические и иные научные теоретические признаки сознания также существенно отличаются как и сами понятия "сознание". Можно ли сказать, что все эти признаки не верны? Я бы не торопился с этим.

Реter Konow #:

Поэтому, я и не хочу углубляться в эти темы.)

В первом случае, у нас люди могут быть лишены права считаться людьми, в противоположном - говорящая кукла может стать субъектом.

В этом и сложность этих вопросов.

Про людей: идея "свободной воли" имеет множество изъянов. Например, решения принимать приходится их тех вариантов, что доступны. Уже степень свободы ограничена и если под свободой понимается "абсолютная свобода", то следует признать всё в мире несвободным. Копая вглубь, мы сталкиваемся с тем, что наши решения являются производным процессом от той биохимической активности, что происходит в мозгу. А там не такие уж свободные элементы подчиняются законам физики, химии и т.д. по нарастающей кривой усложнения процесса. При этом на практике каждый из нас имеет в разных жизненных обстоятельствах ощущения свободы-несвободы. И что, например, важней: внутрениий опыт переживания жизни внутри субъекта или логическое построение, которое указывает на нашу полную несвободу?

Про ИИ: заведомо "бездушный" запрограммированный алгоритм внутри железной машины вполне может быть наделён ролью в принятии решений о том, какое лечение назначить пациенту, какое наказание преступнику и прочие интересные вещи (под предлогом того, что эта штука справится лучше человека). Свободный ли выбор у машины в назначении препаратов, когда оно принимается на основании разных медицинских данных? Вроде нет. Но, рассматривая с этой точки зрения и живого врача-человека, мы сталкиваемся ровно с той же ситуацией: есть входные данные (ситуация), есть выходные данные (решение, активность).

Вообще, рассуждать на сложные темы трудно, т.к. мы всегда рассматриваем что-то под каким-то углом, с какой-то точки зрения, на каком-то уровне обощений. Простые абстракции можно выработать (на основе аксиом, логики и воспроизводимых фактов) и принять, но в реальном мире их отражениями снова будут контексто-зависимые явления. Пример: электричество в реальной жизни и физическая теория об этом.

Реter Konow #:

Общение с вами было очень интересным, надеюсь вы не покинете эту ветку. 

Я приготовил много нового материала по теме речевого интерфейса и его будущей роли в работе специалистов. Ваше мнение будет очень приветствоваться.

Большое спасибо за реакцию! С удовольствием продолжу участие в вашей теме 🙂

Причина обращения: