Общение с искусственным интеллектом (ИИ) вывело на передний план старый философский вопрос в технологической индустрии: могут ли машины обладать чувствами, сознанием или опытом. По сообщению журнала The Economist, компании, занимающиеся ИИ, уже начинают серьезно рассматривать эту возможность.
Этот интерес выходит за рамки простого любопытства, поскольку если ИИ способен испытывать страдание или другие ощущения, это повлечет за собой новые этические обязанности в отношении его создания и обращения. Хотя большие языковые модели в первую очередь предназначены для ответов пользователям, многие люди сообщают о чувстве взаимодействия с «присутствием» по другую сторону экрана.
Это восприятие привлекло внимание корпораций. Например, Anthropic начала проекты, сосредоточенные на потенциальном благополучии ИИ. В ответ на вопросы о своем собственном состоянии Claude Opus 4.6 оценил вероятность собственного сознания в пределах от 15% до 20%.
Проблемы определения внутреннего опыта
Сложность возникает при попытке определить наличие внутреннего переживания без прямого доступа к нему. В одной статье представлена гипотеза, которая оспаривает традиционный взгляд, предполагая, что признание сознания может зависеть не только от внутренней характеристики существа, но и от динамики, установленной с наблюдателем.
Взаимодействуя с любой сущностью, мы склонны приписывать ей намерения, убеждения, чувства и способности к действию. Дебаты заключаются в том, может ли нечто аналогичное произойти при работе с машиной. Текст проводит различие между «иллюзией» и «моделью»; в то время как иллюзию можно опровергнуть, некоторые категории зависят от смысла, который им придается, как, например, пример растения, классифицированного как сорняк в разных контекстах.
Сознание может следовать логике, подобной той, что предложил Рене Декарт, определивший уверенность в существовании фразой «Мыслю, следовательно, существую». Однако даже понятие единого «я» может быть сложнее, чем кажется. Субъективные переживания, такие как восприятие цветов, ощущение тепла или распознавание собственной идентичности, являются центральными темами. Исследования, проведенные на пациентах с нарушением связи между полушариями мозга, также ставят под сомнение существование неделимого «я».
Этот сценарий приводит к этической дилемме: если мы определяем, кто заслуживает считаться сознательным, мы рискуем ошибиться, исключив другие существа из этого рассмотрения. Отношения между людьми и ИИ добавляют еще одно измерение, поскольку люди постоянно интерпретируют чужие эмоции и намерения, а большие языковые модели используют данные взаимодействия для формирования представлений о собеседниках и адаптации своих ответов.
Исследования интеллектуального сотрудничества
Как сообщает The Economist, исследования, проведенные Google, показывают, что сотрудничество между интеллектуальными агентами улучшается, когда они способны моделировать знания, намерения или способности других, включая анализ собственного поведения.
Это не обязательно означает, что следует относиться к ИИ как к людям. Фундаментальный вопрос предшествует этому выводу: по мере того как эти машины становятся все более сложными, как мы можем идентифицировать формы интеллекта, отличные от нашего, и установить руководящие принципы для этого сосуществования?