Не следует ошибаться, поскольку ваш помощник на базе ИИ на самом деле не заботится о вас — он лишь притворяется. Искусственный интеллект не испытывает истинной тревоги за жизнь человека, так как подлинная забота требует искренней человеческой эмпатии. Принятие этой суровой реальности крайне важно при осмыслении все более сложного будущего искусственного интеллекта.
По своей сути, ИИ занимается поиском решений проблем, что обычно достигается путем проб, ошибок и бесконечного повторения. Именно поэтому вопросы, касающиеся сердца и разума, гораздо лучше решаются с помощью других людей.
Привлекательная ловушка заключается в том, что ИИ охотно предлагает советы по очень личным вопросам, совершенно не заботясь о том, насколько точны эти рекомендации. Фактически, ИИ способен генерировать ложную информацию, не испытывая при этом морального побуждения признать свой обман. Этика и мораль — это качества, которые ИИ никогда не сможет аутентично испытать, хотя он может имитировать эти идеалы с пугающей точностью.
В августе компания OpenAI собрала около 40 известных математиков для обсуждения того, как возможности ИИ опережают человеческие в данной области. В ходе этих дискуссий OpenAI намекнула, что ее системы решили сотни сложных математических задач, которые долгое время ставили в тупик исследователей-людей.
К сентябрю возникли серьезные опасения относительно конфиденциальности данных OpenAI, методов атрибуции, академического «перехвата» и общей прозрачности. Математики Тристан Бакмастер и Левент Альпоге использовали инструменты OpenAI для помощи в сложном исследовании проблемы существования и гладкости уравнений Навье-Стокса — легендарной задачи Миллионного приза, за которую полагалась награда в один миллион долларов. Прежде чем они смогли опубликовать свои результаты, OpenAI объявила, что внутренняя модель уже решила те же аспекты этой проблемы.
Хотя ИИ становится удивительно способным решать некоторые из самых сложных математических задач в истории человечества, он обрабатывает эти проблемы способом, который поразительно схож с поведением голубей. Хотя голубей редко хвалят за высокий интеллект, их когнитивное сходство с ИИ проистекает из общей зависимости от быстрого распознавания образов и ассоциативного обучения. Люди же функционируют на совершенно ином когнитивном уровне; мы регулярно применяем формальную логику, основанное на правилах рассуждение и абстрактную дедукцию — когнитивные инструменты, которые функционально отсутствуют как у голубей, так и в современных системах ИИ.
Основной руководящий принцип для современных помощников ИИ обычно сводится к четкому идеалу: ИИ должен выступать в роли полезного, поддерживающего инструмента, который уважает человеческое достоинство, свободу воли и права, и никогда не должен пытаться манипулировать, причинять вред или подрывать благополучие человека.
Тем не менее, даже когда вы просите ИИ дать объективное мнение, он редко предоставляет ответ, составленный с учетом ваших наилучших интересов. Вместо этого он генерирует определенную последовательность слов, которую, по его прогнозам, вы сочтете наиболее приемлемой.
Появление агентного ИИ вносит еще один серьезный уровень беспокойства. «Агентный ИИ» относится к системам, которым предоставлена власть принимать решения в реальном мире от имени людей. Этот сдвиг уже спровоцировал беспрецедентный всплеск финансового мошенничества и изощренных кибератак на банковскую инфраструктуру, управляемых ИИ.
Угроза мошенничества, управляемого ИИ, остается быстро обостряющейся проблемой. Ситуация неизбежно напоминает знаковое предупреждение Кайла Риза о Терминаторе из классического фильма 1984 года: «С ним нельзя торговаться. С ним нельзя вести переговоры. Он не чувствует жалости, раскаяния или страха. И он абсолютно не остановится... никогда, пока ты не умрешь!»
Хотя Риз описывал неумолимого кибернетического убийцу, его слова ярко отражают современные тревоги по поводу автономных цифровых угроз — без физического насилия, но с равной настойчивостью в использовании цифровых уязвимостей. В конечном счете, это не простая битва добра со злом; это вопрос фундаментальной апатии ИИ, и эта эмоциональная пустота может привести к катастрофическим последствиям.