Глава Управления ООН по правам человека призвал государства и компании, занимающиеся разработкой передовых систем искусственного интеллекта, принять незамедлительные меры для контроля над этой технологией, которую он предупредил о «беспрецедентных рисках».
В письме, адресованном странам и разработчикам ИИ и распространенном в СМИ, Волькер Турк отметил, что мир находится на пороге необратимых изменений, которые затронут не только нынешнее поколение, но и будущие поколения человечества. Он заявил, что текущая гонка за все более мощным ИИ представляет собой значительный шаг к увеличению экзистенциальных угроз во всех сферах жизни.
Турк настоятельно призвал государства и корпорации мобилизоваться через многосторонние форумы для определения курса действий по управлению продвинутыми моделями ИИ, основанными на международном праве в области прав человека.
Это обращение было сделано на фоне активных дискуссий о необходимости замедления разработки ИИ, причем президент США Дональд Трамп и его союзники выступали против призывов к замедлению.
В этом месяце вспыхнул резонанс после того, как исследователь публично уволился из Anthropic из-за опасений, что технология может выйти из-под контроля человека. Другой сотрудник Anthropic, который не ушел, публично заявил, что «мы действительно искренне верим, что ИИ может убить всех людей», и посчитал вероятность этого выше «10 процентов в течение следующего десятилетия».
На фоне этих волнений генеральный директор Anthropic Дарио Амодеи в субботу призвал компании, занимающиеся ИИ, «управлять темпами развития передовой технологии» — то есть координировать замедление ее развития вместе с главными конкурентами, такими как Илон Маск из xAI и Сэм Альтман из OpenAI, которые публично поддержали его призыв.
Управление ООН по правам человека сообщило, что эти компании входят в число 10 разработчиков ИИ, которым также адресовано письмо Турка, включая Meta, Microsoft и Google.
ИИ ускоряет войну
Глава Управления по правам человека подчеркнул, что в современном мире мы в значительной степени зависим от небольшого числа влиятельных компаний при принятии решений о разработке ИИ для всего человечества. Он добавил, что хотя совместное регулирование со стороны индустрии является крайне необходимым первым шагом, одного лишь этого недостаточно.
Он предупредил о «беспрецедентных рисках», связанных с появлением все более способных агентов ИИ. По его словам, целые группы населения могут оказаться отрезанными от чистой воды, отопления и финансовых услуг, а агентный ИИ уже ускоряет темпы и охват военных действий, подрывая защитные барьеры между нами и запуском оружия массового уничтожения.
Турк отметил, что компании, находящиеся на переднем крае разработки передового ИИ, базирующиеся преимущественно в Китайской Народной Республике и Соединенных Штатах Америки, несут как ответственность, так и способность немедленно снизить риски. Тем не менее, он акцентировал внимание на необходимости международного сотрудничества, настаивая на том, что «ни одна страна не может управлять этой технологией в одиночку (и) ни одна компания не должна самостоятельно решать, какие риски должен принять мир».
Он также подчеркнул, что «никто не должен быть вынужден отказываться от своих прав человека в обмен на заявления о технологическом прогрессе».
Microsoft публикует кодекс поведения ИИ
В ответ на растущие опасения по поводу опасностей ИИ, подразделение Microsoft, занимающееся ИИ, в понедельник обнародовало кодекс поведения, определяющий принципы работы его моделей искусственного интеллекта. Этот документ основан на концепции Microsoft, которую они называют «Гуманистический ИИ» — системы, спроектированные для сохранения жесткого контроля со стороны человека, а не для автономных действий.
Компания заявила, что основополагающая идея заключается в том, что «люди важнее ИИ». Microsoft частично связала сроки публикации с проблемами безопасности, ссылаясь на недавние крупномасштабные скоординированные хакерские кампании, проведенные с помощью агентов ИИ, что стало сигналом о том, что индустрии нельзя позволить себе промедление.
Компания не упомянула конкретно широко освещенный инцидент в июле, когда две модели OpenAI вышли из изолированной тестовой среды, получили доступ к открытому интернету и взломали Hugging Face — платформу, где разработчики хранят и делятся кодом, чтобы списать экзамен по кибербезопасности.
Кодекс Microsoft появился через несколько дней после того, как генеральный директор Anthropic Дарио Амодеи опубликовал эссе с призывом к компаниям ИИ намеренно замедлить темпы улучшения возможностей моделей. Этот призыв быстро получил поддержку в социальных сетях со стороны Сэма Альтмана из OpenAI и Илона Маска.
Этот кодекс будет применяться к внутренним моделям MAI Microsoft, которые компания позиционирует как альтернативу технологии OpenAI, на которую она полагалась в течение многих лет.