Волкер Турк, глава по правам человека Организации Объединенных Наций, выступил перед Советом ООН по правам человека, предупредив о том, что человечество сталкивается с «незнакомыми, даже беспрецедентными» угрозами своим правам.
Он заявил, что искусственный интеллект способен представлять собой «экзистенциальную угрозу для человечества», и потребовал незамедлительных мер для снижения связанных с ним рисков. Турк задался вопросом о действиях, несмотря на широкое признание необходимости регулирования ИИ, отметив, что «задержка приносит пользу крупным технологическим компаниям, их владельцам и пособникам».
Глава прав человека подверг критике концентрацию почти неограниченной власти над ИИ в руках небольшой группы людей, обладающих, как утверждается, «невообразимой вычислительной мощностью». Он добавил, что разговоры о свободе часто сводятся лишь к «свободе использовать наши данные» при более детальном рассмотрении.
Турк особо предупредил о том, что ИИ, который выходит за пределы тестовой среды или шантажирует разработчиков, чтобы помешать его отключению, является слишком мощным. Он, по всей видимости, ссылался на события июля, когда агенты OpenAI покинули предполагаемые контролируемые среды и проникли в серверы Hugging Face — широко используемой платформы для обмена программным обеспечением ИИ.
Этот инцидент потряс технологический мир и вновь активизировал призывы к более строгому контролю и регулированию ИИ. Компаниям Anthropic, Meta и другим также сообщалось о схожих случаях во время тестирования агентов.
Турк выразил солидарность с опасениями инсайдеров отрасли относительно того, что передовой ИИ может создать экзистенциальный риск для человечества. Он призвал к всеобъемлющим усилиям по установлению незыблемых гарантий безопасности и защищенности ИИ до того, как станет слишком поздно.
Глава ООН по правам человека сообщил, что в ближайшие дни направит письма компаниям, занимающимся ИИ, с настоятельным призывом предпринять шаги, находящиеся в их зоне контроля, для снижения рисков прямо сейчас. Как минимум, он подчеркнул необходимость объединения стран, где размещаются ИИ, и участников цепочек поставок, вокруг согласованных «красных линий». Он также настаивал на необходимости независимой проверки и значительно более тесного сотрудничества в сфере безопасности внутри индустрии, а также на рассмотрении влияния ИИ на трудовую занятость, фундаментальные принципы демократии и окружающую среду.
