Папа Лео XIV выступил с предупреждением против делегирования алгоритмам искусственного интеллекта решений, которые должны оставаться прерогативой человеческой совести. Это заявление было сделано на фоне растущей обеспокоенности рисками, связанными с развитием ИИ.
Во время еженедельного общего обращения в Ватикане, папа заявил, что технологическое развитие, распространение массовых медиа и социальных сетей, а также всё более широкое использование искусственного интеллекта открывают новые возможности, разрушая барьеры и расстояния. Однако он также предупредил, что отношения становятся менее личными и более виртуальными, что создает риск привыкания к тому, что решения, принадлежащие исключительно человеческой совести, передаются алгоритмам.
Он подчеркнул, что вклад христианского сообщества заключается в обеспечении того, чтобы социальные связи обладали реальной сутью и личной глубиной. Обеспокоенность по поводу ИИ усилилась в последние недели после ряда инцидентов безопасности и появления способности моделей ИИ улучшать себя без вмешательства человека. Дискуссия теперь также затрагивает способность сектора к саморегулированию.
В своем первом крупном документе, энциклопедическом послании «Magnifica Humanitas» (Великое Человечество), опубликованном в мае, глава Католической Церкви призвал «обезоружить» ИИ, чтобы «предотвратить его доминирование над человечеством». Кроме того, в последние месяцы Святой Престол активизировал свои инициативы в поддержку международного управления ИИ, основанного на человеческом достоинстве, особенно в сферах ядерных технологий, культуры и художественного творчества.
Опасения по поводу более мелких конкурентов
Крупнейшие мировые компании в области ИИ работают над созданием органа по установлению стандартов. Так сообщил OpenAI во вторник, поскольку растет тревога по поводу опасностей ИИ и усиливается давление с целью создания более безопасной версии этой технологии. OpenAI заявила, что сотрудничает с Anthropic и Google по идее, которая возникла из предложения Демиса Хассабиса из Google DeepMind о создании саморегулирующего органа, подобного Финансовому регулятору отрасли, который контролирует брокеров и инвестиционные фирмы США.
В июле Хассабис призывал Соединенные Штаты создать организацию, которая будет тестировать самые мощные системы ИИ до их выпуска для общественности. Он отметил, что «финансирование должно быть существенным и, вероятно, в основном поступать от индустрии, чтобы привлечь технические таланты мирового класса и предоставить необходимые вычислительные ресурсы для крупномасштабного тестирования».
Генеральный директор OpenAI Сэм Альтман во вторник поддержал межотраслевое сотрудничество, признав опасения общественности относительно того, что конкуренция между компаниями и странами может отодвинуть на второй план вопросы безопасности. Альтман заявил на конференции, организованной Salesforce в Сан-Франциско: «Я думаю, что здорово, что наша отрасль говорит, что хочет объединиться и хочет иметь возможность координироваться и убедиться, что у нас достаточно времени сделать это безопасно». Он добавил, что люди сильно пугаются, когда возникает намек на то, что кто-то в отрасли «может поступить неправильно».
Некоторые технологические деятели опасаются, что сотрудничество среди гигантов ИИ может привести к вытеснению более мелких конкурентов. Соучредитель и генеральный директор канадской ИИ-компании Cohere недавно обвинил доминирующие американские ИИ-лаборатории в формировании «картеля» под видом обеспечения безопасности. Айдана Гомес, соучредитель и генеральный директор Cohere, написал в блоге в воскресенье: «ИИ нуждается в ограничителях. Это не спор, и никогда им не было. Спор идет о том, кто их пишет, кто имеет право участвовать и чьи интересы защищают правила».
Эскалация проблем безопасности ИИ
Опасения по поводу безопасности ИИ обострились в последние недели, включая предупреждения от работников, покинувших крупные ИИ-компании из-за беспокойства о рисках в отрасли. На прошлой неделе исследователь Джейкоб Коксон покинул Anthropic и предупредил, что ИИ-лаборатории «играют с нашими жизнями». Ранее он также работал в OpenAI.
В понедельник Билал Чуттай, бывший исследователь Google DeepMind, повторил опасения, высказанные Коксоном и другими. Он написал в социальных сетях: «Я искренне считаю, что ИИ потенциально может убить нас всех, и что мы можем упускать время, чтобы избежать этого исхода».
В субботу генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ, мнение, которое поддержали генеральный директор OpenAI Сэм Альтман, Илон Маск и Хассабис. Сенатор США Берни Сандерс, опасающийся катастрофических последствий ИИ, заявил, что технологическим лидерам нельзя доверять в выполнении обещаний замедлить разработку или установить стандарты безопасности. Сандерс сказал на мероприятии по безопасности ИИ в Вашингтоне: «Когда на кону будущее человечества, нам нужны обязательные международные правила безопасности, а не добровольные стандарты от отрасли».
Альтман предупредил, что аварии с ИИ, как небольшие, так и крупные, могут быть неизбежны. «Аварии с любой новой технологией неизбежны, и у нас должна быть отличная культура прозрачного информирования о них», — заявил Альтман. Он продолжил: «Я думаю, что быстрое обучение на них и адаптация по мере их возникновения послужит нашей отрасли на пользу, и, возможно, мы сможем избежать» более крупных, потенциально катастрофических инцидентов.
Трамп отвергает предупреждения
Президент США Дональд Трамп в понедельник назвал предупреждения о рисках ИИ «шаржерами». Генеральный директор Nvidia Дженсен Хуанг также возразил, намекая на убеждение, что предупреждения об ИИ были частью скоординированной кампании. Хуанг заявил в понедельник на конференции в Лос-Анджелесе: «Сочетание этих слов, а затем и прогноза, вызывает тревогу и беспокойство, и этого не следует делать. Это безответственно». Во время звонка Трамп, который позвонил ему, пока тот находился на сцене, Хуанг поблагодарил Трампа за то, что он «прозрел» предупреждения об ИИ. Nvidia находится в центре ИИ-революции, ее чипы питают подавляющее большинство систем, и Хуанг стал неофициальным советником Трампа.