Утверждение о том, что существует более чем 10%-ная вероятность того, что искусственный интеллект (ИИ) уничтожит всё человечество, было выдвинуто Эваном Хабингером, директором по выравниванию в Anthropic, 8 сентября, и быстро привлекло внимание в социальных сетях. Однако доктор Альваро Машаду Диас, нейробиолог, футурист и профессор Unifesp, назвал эту идею простой нарративной конструкцией, заявив во время интервью Olhar Digital, что «в этом разговоре нет малейшей правдоподобности».
Публикация Хабингера ссылалась на предыдущий твит Джейкоба Коксона, который работал как в OpenAI, так и в Anthropic, уделяя внимание предварительному обучению моделей ИИ. Коксон выступил с предупреждением вскоре после ухода из Anthropic, предположив, что обе компании «стремятся к сверхинтеллекту, способному самосовершенствоваться, и ставят на кон наши жизни».
Хабингер подтвердил свою точку зрения, заявив: «Мы искренне верим, что ИИ может убить людей! Лично я считаю, что вероятность этого превышает 10% в ближайшее десятилетие». Он добавил, что, хотя он и считает, что Anthropic делает все возможное, пока нет четкого плана по решению проблемы выравнивания сверхинтеллекта.
Артур Игреа, эксперт по технологиям и инновациям, выразил скептицизм по поводу методологии, задавшись вопросом, как Хабингер пришел к проценту в 10%, и запросив предпосылки расчета. Игреа добавил, что в таблице рисков он больше опасается ошибочных решений, принимаемых людьми до конца десятилетия.
Альваро Машаду Диас повторил, что идея восстания ИИ, приобретения им интенциональности или нападения на людей является чисто нарративной. Он объяснил, что это потребовало бы типа интенциональности, присущей людям и другим видам, чего не наблюдается у машин. Кроме того, он указал на отсутствие видимой исполнительной способности для такого сценария.
Нейробиолог подчеркнул, что ИИ нуждается в доступе к чрезвычайно чувствительным ресурсам, таким как лаборатории для синтеза биологического оружия, которые находятся под строгим регулированием. Тем не менее, он признал, что ИИ может нанести большой ущерб через цифровые интерфейсы, приведя в пример ИИ, разработанный для создания полиморфных компьютерных вирусов или захвата конфиденциальных баз данных больниц.
Машаду Диас провел решающее различие: необходимо отличать то, что осуществимо в области «как» (практическая реальность), от того, что, анализируя «как», просто не имеет смысла. Параллельно с этим, Дарио Амодеи, генеральный директор Anthropic, опубликовал статью 12 сентября, признав, что ускоренный темп развития ИИ из-за «рекурсивного самосовершенствования» требует скоординированного замедления со стороны компаний сектора.
Это предложение поддержали Сэм Альтман (OpenAI), Илон Маск (xAI) и Демис Хассабис (бывший генеральный директор Google DeepMind). Хассабис поддержал эссе Амодеи, а Маск согласился с утверждением Амодеи. Альтман пояснил, что замедление не означает остановку, а скорее инвестирование в аудиты и тесты безопасности, чтобы гарантировать, что возможности моделей не превышают их выравнивание.
В отличие от этого, Дональд Трамп проигнорировал предупреждения Амодеи, Альтмана и Маска, минимизируя риски ИИ и выступая за сохранение лидерства США над Китаем. Китай отреагировал на статью Амодеи через государственную газету Global Times, заявив, что инициатива направлена на создание «руководства Холодной войны» для сдерживания китайского продвижения и защиты американской технологической гегемонии.
Машаду Диас отметил, что остановка прогресса ИИ не зависит от правительственного разрешения; достаточно просто прекратить разработку. Он заметил, что нерешительность в приостановке заключается в том, что ни одна из крупных компаний (Anthropic, OpenAI, Google, xAI) не готова принять такую одностороннюю позицию. Он заключил, что стратегически осторожная позиция выгодна, поскольку она переносит потенциальный корпоративный риск в государственный и общественный сферы.
Относительно позиций правительств США и Китая эксперт отметил, что, хотя американцы начали разработку (с ChatGPT) и инвестируют больше, китайская позиция, требующая обсуждения замедления, является законной. Однако он предупредил, что обе страны стремятся расширить свои технологии по всему миру, и в конечном счете, «никто не хочет остановки».