Текущая гонка за создание все более мощного искусственного интеллекта представляет собой качественный скачок, который несет в себе повышенные экзистенциальные риски для всех аспектов нашей жизни, — заявил Волькер Турк в заявлении. Он призвал государства и технологические компании незамедлительно отреагировать на эту ситуацию, после того как ООН уже обратилась к странам с просьбой о регулировании ИИ.
Руководитель ООН особо выделил опасности, связанные с так называемым «агентным ИИ», способным выйти за рамки стандартных систем, самостоятельно принимать решения и реализовывать планы для достижения заданной цели.
По словам Турка, сбои в таких системах могут привести к параличу жизненно важных служб, нарушению связи, дестабилизации критической инфраструктуры и даже подорвать основы демократических институтов. Он предупредил, что целые группы населения могут остаться без доступа к воде, отоплению или финансовым услугам.
Высокий комиссар также обратил внимание на последствия использования этой технологии в военных конфликтах, отметив, что ИИ «уже ускоряет темп войн, расширяет их охват и подрывает гарантии, которые существуют между нами и применением оружия массового уничтожения».
Эти заявления прозвучали после того, как руководители технологического сектора, включая генерального директора Anthropic Дарио Амодеи, генерального директора OpenAI Сэма Альтмана и бизнесмена Илона Маска, выступали за сознательное замедление разработки самых продвинутых моделей ИИ из-за таких рисков, как потенциальная потеря контроля над системами.
Турк настаивал на том, что государства и корпорации должны срочно мобилизоваться через многосторонние форумы для создания управления ИИ, основанного на международном праве и защите прав человека. Он подчеркнул: «Ни одна страна не может управлять этой технологией в одиночку, ни одна компания не должна иметь право самостоятельно решать, какие риски мир должен принять, и никто не должен быть вынужден отказаться от своих прав человека в обмен на обещания технологического прогресса».