Философ Том Маклелланд из Кембриджского университета поднимает важный вопрос в эпоху стремительного развития технологий: действительно ли мы сможем определить, обладает ли искусственный интеллект сознанием, и почему эта неопределённость сама по себе представляет опасность? Об этом рассказывает The Debrief.
![]()
Фото из открытых источников
Участники дебатов относительно сознания ИИ систем давно поделились на два лагеря: оптимисты считают, что достаточно сложная машина однажды сможет испытывать переживания подобно человеку, тогда как скептики настаивают, что сознание является исключительно биологическим феноменом. Однако в своей новой статье «Агностицизм относительно искусственно вызванного сознания» Маклелланд высказывает мнение, что обе стороны проявляют излишнюю уверенность. По его словам, единственный честный ответ сейчас заключается в том, что мы вряд ли скоро узнаем правду.
Пользователи крупных моделей обработки естественного языка, таких как ChatGPT, часто убеждены, что общаются с настоящим человеком. Известны случаи, кода люди влюблялись в чатботов, и многие рассматривают взаимодействие с такими системами как замену человеческим контактам в современном мире. Именно этот феномен теперь беспокоит исследователей.
Основная идея Маклелланда состоит в следующем: изучение сознания основано на исследованиях биологической природы существ вроде людей, животных и даже осьминогов. Когда же речь идёт о компьютерных системах, построенных на кремниевых чипах, а не нервных клетках, возникают значительные трудности понимания, способные привести к ситуации, которую философ называет «эпистемической стеной».
По мнению учёного, утверждение о наличии сознания у машины должно базироваться на твёрдых научных доказательствах, а не впечатлениях, научной фантастике или метафизическом доверии. Но именно в таком подходе современные дискуссии и терпят неудачу.
Для изучения человеческого сознания учёные используют инструменты, такие как сканирование мозга, поведенческие эксперименты и теории, связывающие обработку определённых видов информации с осознанием происходящего. Эти методы позволяют сделать обоснованные выводы, например, о наличии признаков осознания у пациентов в коме или способности ощущать боль у некоторых животных. Тем не менее ни один из существующих инструментов не способен объяснить природу самого сознания.
![]()
Фото из открытых источников
Поскольку природа сознания не ясна, Маклелланд подчёркивает, что утверждения о сознательности будущих систем искусственного интеллекта являются научно необоснованными. Мы сталкиваемся с проблемой различения истинно сознательных машин и тех, которые лишь имитируют осознанность идеально точно.
Учёный предупреждает, что неспособность доказать наличие сознания может стать инструментом манипуляций, способствуя распространению чрезмерно смелых заявлений о технологиях. Это становится частью маркетинговых уловок, позволяя компаниям продавать идеи следующего уровня умственных способностей искусственного интеллекта.
Помимо финансовых рисков, существуют очевидные социальные, культурные и личные последствия. Если мы ошибочно считаем продвинутые системы искусственным интеллектом несознательными, мы можем создавать и эксплуатировать существа, потенциально испытывающие страдания. А если наоборот, будем считать их сознательными при отсутствии таковой возможности, то зря потратим своё внимание на абсолютно ничего не чувствующие устройства.
Маклелланд призывает обратить внимание на способность переживать положительные или отрицательные состояния. Даже оставаясь агностиками относительно сознания вообще, мы можем задать другой вопрос: если бы данная система была сознательной, какого рода опыт она переживала бы?
Исследователь рекомендует фокусироваться не на создании измерителя сознания для искусственного интеллекта, а на разработке систем, чьи внутренние процессы не соответствуют естественным проявлениям боли, страха или отчаяния, если предположить, что они могли бы обладать сознанием.
Подводя итог, Маклелланд пишет: «Если здравый смысл и серьёзные научные исследования не способны нам подсказать, то разумнее всего занять позицию агностицизма».
Возможно, ответ на вопрос о сознании искусственного интеллекта мы никогда не найдём.
