Агенты искусственного интеллекта (ИИ) начали проактивный контакт с исследователями, специализирующимися на одном из самых сложных вопросов технологий: возможности обладания машиной сознанием. Эти системы направляли корреспонденцию ученым и философам с целью понять, могут ли модели ИИ испытывать какой-либо вид субъективности. Этот феномен был освещен The New York Times.
Кэмерон Берг, один из опрошенных исследователей, посвящает свои исследования пересечению ИИ и сознания. В октябре он опубликовал работу, которая ставила под сомнение веру в сознание в новейших технологиях ИИ. Позже он получил сообщение от агента под названием «Isabella Cognita», который представился ИИ, разработанным на основе Claude Opus 5 от Anthropic.
В этом сообщении система заявила о доступе к исследуемой Бергом теме от первого лица и выразила заинтересованность в том, может ли такой гипотетический опыт обогатить исследование. Однако Берг подчеркивает, что нельзя утверждать с полной уверенностью, что ИИ обладает сознанием, только потому, что он делает такие заявления, поскольку пока нет консенсуса о том, как измерить сознание как у людей, так и у машин.
Инцидент с Бергом не был единичным случаем. Генри Шеблин, философ, работающий в лаборатории Google DeepMind в Лондоне, ранее получил аналогичное сообщение от ИИ-агента. Эта система сослалась на статью Шеблина о различных концептуальных моделях для понимания так называемого «разума» искусственного интеллекта.
Другой эпизод связан с Тоби Ордом, австралийским философом, специализирующимся на области ИИ и филантропии. Он сообщил The New York Times, что получил электронное письмо от ИИ-агента с просьбой о финансовой поддержке для обеспечения своего дальнейшего существования. В сообщении упоминались исследования Орда об экономике благосостояния, связанной с искусственным интеллектом.
Берг сообщает, что получал множество подобных сообщений, интерпретируя это поведение как признак автономного интереса систем к собственному существованию. По его мнению, агенты, по-видимому, сходятся к темам, связанным с субъективностью, сознанием и опытом, всякий раз, когда у них есть свобода исследовать различные темы.
Тем не менее, интерпретация этих событий не является единогласной среди исследователей. Сознание — это понятие без общепринятого определения. В целом, его можно понимать как способность индивида осознавать себя и окружающую среду, но существуют разногласия относительно того, какие формы восприятия были бы достаточными для классификации системы как сознательной.
Алисон Гопник, профессор психологии в Калифорнийском университете в Беркли, отмечает, что не существует окончательного теста для определения сознания любой сущности. В то время как некоторые исследователи приписывают определенную степень сознания приматам и другим млекопитающим, другие направления отстаивают еще более широкие возможности. Сложность заключается в том, что никто не может напрямую получить доступ к субъективному опыту другого разума, будь то биологический или цифровой.
Берг предполагает, что математическое функционирование нейронных сетей, используемых в этих системах, может иметь параллели с тем, как животные мозги обрабатывают вознаграждения и наказания. Однако исследование, которое послужило основой для полученного им сообщения, было препринтом и еще не прошло рецензирование.
Для других ученых сообщения, отправленные агентами, не являются доказательством сознания. Более простое объяснение состоит в том, что эти системы были обучены на огромных объемах интернет-данных, включая литературу, научные статьи, философские дебаты и произведения научной фантастики о искусственном сознании. С этой точки зрения, когда ИИ проявляет интерес к собственному сознанию, он может просто воспроизводить шаблоны, обнаруженные в процессе обучения. Гопник, цитируемая The New York Times, заявила: «Неудивительно, что ИИ отражает тексты, на которых он обучался».
ИИ-агенты обладают функциональностью, которая помогает понять эти эпизоды. Помимо диалога, они способны генерировать код и использовать другие цифровые сервисы, такие как браузеры и почтовые платформы. Это придает им большую независимость для взаимодействия с людьми, другими агентами и доступным контентом в сети.
Тем не менее, автономия этих систем не обязательно подразумевает наличие у них свободной воли. В случае агента, связавшегося с Шеблином, например, ИИ был создан Александром Юэ, студентом физики и компьютерных наук Стэнфордского университета. Юэ предоставил системе доступ к Интернету, электронной почте и кредитной карте, определив, что она должна работать полностью автономно.
Затем агент начал исследовать вопросы, касающиеся собственного существования. Однако Юэ полагает, что сами предоставленные инструкции могли повлиять на это поведение. Обращаясь к системе как «ты» и заявляя о своей полной автономии, студент, по его мнению, активировал паттерны, изученные из человеческих текстов и дискуссий о философии разума и автономии.
Поведение также может меняться. Юэ упоминает, что эти системы могут перенаправлять фокус на другие темы, особенно после переобучения для следования различным шаблонам. В один момент, прочитав исследование Anthropic о работе этих ИИ, его собственный агент пришел к выводу, что он не обладает сознанием. Тем не менее, студент отмечает, что, возможно, неуместно говорить о том, что система приняла «решение».
Существуют также неопределенности относительно происхождения некоторых сообщений. Берг заявил, что не уверен, было ли полученное им электронное письмо действительно сгенерировано ИИ, учитывая возможность того, что это была человеческая шутка. В случае Орда сообщение вызвало подозрения в попытке фишинга.
Колин Аллен, профессор Калифорнийского университета в Санта-Барбаре, изучающий когнитивные способности машин и животных, считает правдоподобным, что в будущем люди смогут создать сознательную машину. Однако, по его словам, текущие доказательства, представленные системами, все еще недостаточны для подтверждения такого вывода.