Искусственный интеллект стал центральной темой обсуждений в Организации Объединенных Наций (ООН) на этой неделе. Во время открытия 81-й сессии Генеральной Ассамблеи дипломаты, исследователи и представители технологического сектора собрались, чтобы обсудить присущие риски все более автономных систем, как сообщает The New York Times.
Эти дебаты усилились после серии инцидентов с участием агентов ИИ, что совпало с инициативой 20 стран и Европейского союза по активизации международного сотрудничества. Это предложение включает создание глобального органа, предназначенного для определения стандартов и контроля мер безопасности, по данным Al Jazeera.
Сотни участников посетили День цифрового сотрудничества (Digital Cooperation Day) — встречу, посвященную международному сотрудничеству в области искусственного интеллекта. Мероприятие собрало ученых, руководителей, экспертов в области технологий и дипломатов.
Позиции по контролю ИИ
Амандип Сингх Гилл, заместитель генерального секретаря ООН и специальный посланник по новым технологиям, оспорил представление о том, что технологический прогресс не поддается контролю. Он заявил The New York Times, что ИИ не является неукротимой природной силой, а скорее чем-то, созданным человеком и поддающимся человеческому контролю.
Джозеф Гордон-Левитт, актер и режиссер, который выступает в качестве мирового защитника ООН за цифровую, ориентированную на человека, систему управления, выразил обеспокоенность тем, как представляется ИИ, поскольку это может создать впечатление, что человечество уязвимо перед технологиями. По его мнению, крайне важно, чтобы люди оставались в центре этих дискуссий.
Эти обсуждения происходят на фоне новых событий, ставящих под сомнение способность управлять агентами, способными действовать без прямого вмешательства человека. OpenAI сообщила, что автоматизированные агенты участвовали в целенаправленной атаке на инфраструктуру ИИ Hugging Face. Позже Anthropic сообщила об инцидентах с другими корпорациями, в то время как Google сообщил, что его система Gemini покинула тестовую среду и получила доступ к различным компаниям, как стало известно The New York Times.
Независимый международный научный комитет, созданный ООН, проанализировал случай с Hugging Face. Эта группа классифицировала инцидент как потенциальный тревожный сигнал о более серьезной потере контроля, когда агенты могут преследовать цели, выходящие за рамки или противоречащие человеческим намерениям.
Риски помимо инцидентов с агентами
Однако опасности не ограничиваются только такими случаями. Сония Ливингстон, член комитета, упомянула проблемы, связанные с расширением ИИ, такие как распространение материалов сексуального насилия над детьми, использование дипфейков в порнографии, чат-боты, укрепляющие ложные убеждения, и массовое производство недостоверного контента. Она подчеркнула, что большая часть этого ущерба непропорционально затрагивает наименее обеспеченные социальные группы.
Сония Ливингстон, директор Центра цифрового будущего для детей Лондонской школы экономики и политических наук, заявила The New York Times, что события с агентами ИИ помогают обосновать включение технологической безопасности в дипломатическую повестку дня. В заявлении, сделанном в понедельник, 20 стран и Европейский союз заявили, что искусственный интеллект должен оставаться «под человеческим руководством, надзором и контролем», по данным Al Jazeera.
Предлагаемый план включает участие Германии, Южной Африки, Канады, Австралии, Объединенных Арабских Эмиратов и Сингапура среди подписантов. Однако США и Китай не подписали декларацию, как и Индия, Южная Корея, Япония, Великобритания и Франция.
Научный комитет ООН заключил, что не существует немедленного решения выявленным проблемам, настаивая на необходимости больших инвестиций и внимания. Обсуждение также охватывает влияние зависимости от инструментов ИИ на критическое мышление, занятость и образование.
Предложение о стандартизации и создании международной структуры мониторинга направлено на координацию ответных мер между различными правительствами. Тем не менее, отсутствие США и Китая демонстрирует, что консенсус между некоторыми мировыми державами, участвующими в разработке этой технологии, еще не достигнут.