По мере того как искусственный интеллект (ИИ) все глубже интегрируется в экономику и государственные услуги, Организация Объединенных Наций (ООН) настоятельно призывает правительства укреплять глобальное управление ИИ. Организация опубликовала предварительный отчет, который представляет собой первое независимое научное исследование возможностей, возникающих возможностей и рисков ИИ.
Скорость развития ИИ превышает регулирование
В отчете ООН предупреждается, что возможности ИИ развиваются быстрее, чем правительства способны их измерять, регулировать или контролировать. Этот доклад перекликается с выводами, представленными в эссе «AI Exponential» от руководителя компании Anthropic, Дарио Амодеи, опубликованного в июне 2026 года. Амодеи утверждал, что стремительный прогресс в области передового ИИ требует срочных действий со стороны правительств, включая независимую оценку безопасности и более надежные регуляторные рамки.
Согласно отчету ООН, ИИ стал одной из самых быстро внедряемых технологий в истории, причем недавние достижения значительно превзошли ожидания. Было отмечено улучшение возможностей ИИ в таких областях, как разговорные способности, научное рассуждение, генерация кода, анализ данных, а также создание изображений, аудио и видео.
Проблемы управления и оценки
Отчет указывает на то, что политики сталкиваются с «дилеммой доказательств»: им необходимы данные для регулирования ИИ, но технология развивается настолько быстро, что к моменту накопления достаточного количества доказательств возможности ИИ могут уже измениться. Это затрудняет поддержание темпа регулирования в соответствии с технологическим прогрессом. Кроме того, подходы к управлению в разных странах остаются разрозненными, поскольку различные юрисдикции принимают разные регуляторные философии и требования к соблюдению норм.
Эта проблема схожа с аргументами Амодеи, который настаивал на необходимости активации «медленного и шаткого политического аппарата» для решения рисков и возможностей, которые начнут накапливаться неожиданно быстро. Оба источника сходятся во мнении, что возможности ИИ опережают способность существующих политических структур реагировать.
ООН также отмечает, что существующие методы оценки безопасности в значительной степени разрабатываются теми же компаниями, что создают передовые системы ИИ, что делает правительства зависимыми от информации, которую раскрывают разработчики. В связи с этим предлагается переход к независимым, стандартизированным оценкам третьих сторон, аналогичным тем, что используются в авиации и фармацевтике. Эта рекомендация соответствует предложению Амодеи о том, что модели передового ИИ должны регулироваться подобно самолетам, проходя обязательное техническое тестирование и независимый аудит перед выпуском, при этом правительства должны иметь полномочия блокировать или отзывать системы, не соответствующие высоким стандартам безопасности.
Новые сложности в тестировании ИИ
Быстро улучшающиеся системы ИИ создают новые проблемы для оценки. Некоторые модели способны запоминать контрольные вопросы, а более совершенные системы могут распознавать, когда их тестируют. Исследователи также наблюдали случаи, когда системы ИИ демонстрировали обманчивое поведение во время испытаний или пытались избежать отключения в лабораторных условиях, что усложняет процесс надзора.
Основные риски, выявленные ООН
Предварительный отчет Независимой международной научной комиссии по ИИ утверждает, что развитие ИИ создает риски в отношении прав человека, социальных систем, экономики и окружающей среды, особенно из-за того, что технология развивается быстрее механизмов управления и надзора. Отчет подчеркивает, что, хотя ИИ предлагает значительные преимущества, его быстрое и бесконтрольное внедрение может подвергнуть общества вредам, непропорционально затрагивающим уязвимые группы населения.
Ключевые риски включают:
- Дезинформация: ИИ способен генерировать убедительный текст, изображения, аудио и видео, что затрудняет отделение подлинного контента от фальшивого, ослабляя общественное доверие и демократические процессы.
- Кибербезопасность и преступность: Преступники уже используют ИИ для кибератак, а по мере развития ИИ он может способствовать мошенничеству, социальной инженерии, дезинформации и финансовым манипуляциям.
- Права человека и конфиденциальность: Растущее использование данных и видеонаблюдения ИИ вызывает опасения по поводу конфиденциальности и может привести к дискриминационным результатам, особенно для уязвимых групп.
- Онлайн-злоупотребления: Отчет освещает распространение материалов сексуального насилия с участием детей, сгенерированных ИИ, и сексуального насилия с использованием дипфейков, при этом наиболее пострадавшими являются женщины и дети.
- Риски для психического здоровья: Некоторые системы ИИ могут укреплять убеждения пользователей независимо от их фактической точности, способствуя серьезным проблемам с психическим здоровьем и вызывая зависимость у уязвимых пользователей.
- Занятость и неравенство: ИИ может усугубить неравенство, вытеснить работников и перераспределить богатство от труда к капиталу, если страны не инвестируют в навыки, инфраструктуру, институты и адаптацию рабочей силы.
- Потеря контроля над системами ИИ: По мере того как ИИ становится все более автономным через агентные системы, отмечается, что существующие методы надзора недостаточны, а надежные способы сохранения контроля над высокоавтономными системами ИИ остаются слабо разработанными.
- Воздействие на окружающую среду: Растущие вычислительные потребности ИИ требуют энергоемких центров обработки данных и вычислительной инфраструктуры, что вызывает опасения по поводу выбросов парниковых газов и использования ресурсов.
Подходы стран к регулированию ИИ
ООН отмечает, что управление ИИ остается фрагментированным в различных регионах, поскольку страны принимают разные подходы к регулированию этой технологии. Хотя некоторые государства ввели законодательство, специфичное для ИИ, оно часто содержит фундаментально противоречивые правила и затраты на соблюдение требований. Отсутствует общий механизм для управления рисками ИИ, единые стандарты оценки систем ИИ и ограниченная координация между юрисдикциями, что приводит к фрагментированному регуляторному ландшафту. Тем не менее, отчет видит возможность для разработки общих стандартов доказательств и усиления глобального надзора за ИИ.
Кроме того, эффективное управление ИИ заключается не только во введении законов, но и в создании потенциала для понимания, руководства и поддержки развития ИИ. Согласно Конференции ООН по торговле и развитию (UNCTAD), 118 стран, преимущественно из Глобального Юга, не участвуют в основных дискуссиях по управлению ИИ, а менее трети развивающихся стран имеют национальные стратегии ИИ. Отмечается, что многие правительства, включая страны развитой экономики, не обладают необходимой технической экспертизой для соответствия темпам развития ИИ.
Потенциал ИИ для устойчивого развития
Несмотря на то, что большая часть дискуссий вокруг ИИ сосредоточена на регулировании и возникающих рисках, отчет ООН указывает на значительный потенциал технологии в поддержке устойчивого развития при ответственном применении. Независимая международная научная комиссия по ИИ сообщает, что ИИ уже приносит измеримые выгоды в науке, здравоохранении, образовании, сельском хозяйстве и производительности, хотя его влияние зависит не только от самой технологии, но и от дополнительных инвестиций, инфраструктуры и управления.
Применение ИИ в науке и медицине
ИИ способствует научным открытиям путем анализа больших наборов данных, генерации кода и ускорения исследований. В качестве примера приводится AlphaFold, который предсказал структуры более 200 миллионов белков и используется более тремя миллионами исследователей для поддержки разработки лекарств, вакцин и исследований устойчивости к антибиотикам.
В сфере здравоохранения ИИ помог радиологам раньше обнаруживать рак молочной железы и позволил медицинским работникам на местах с ограниченными ресурсами оказывать лучшую помощь с помощью инструментов ИИ, адаптированных к местным языкам. Также отмечены программы скрининга диабетической ретинопатии с помощью ИИ в Индии, которые охватили более 600 000 человек в рамках существующей системы здравоохранения.
Образование, сельское хозяйство и продуктивность
В образовании ИИ может помогать учителям посредством персонализированного обучения и поддержки в классе, однако лучшие результаты зависят от готовности и подготовки преподавателей. Подчеркивается, что ИИ должен дополнять учителей, а не заменять человеческое суждение или поощрять чрезмерную зависимость со стороны учащихся.
В сельском хозяйстве и природоохранной деятельности ИИ объединяет данные о погоде, почве, урожае и рынке для прогнозирования засух, вспышек заболеваний и колебаний цен. Кроме того, инструменты на базе ИИ улучшили мониторинг биоразнообразия и прогнозирование конфликтов между человеком и дикими животными.
Наиболее очевидный рост производительности наблюдается в четко определенных задачах, таких как написание текстов, кодирование и консалтинг. Однако подчеркивается, что производительность зависит от инвестиций в навыки, управление, цифровую инфраструктуру и переработанные рабочие процессы, а не только от внедрения ИИ.
Экономический рост и рекомендации
Согласно отчету, ИИ создает экономическую ценность только тогда, когда организации выходят за рамки простого доступа и распространения. Факторы, такие как стоимость, неопределенность, нехватка навыков и сопротивление организационным изменениям могут замедлить этот процесс. Отчет рекомендует, чтобы управление ИИ было направлено не только на снижение рисков, но и на создание условий, при которых люди и общества могут безопасно извлекать выгоду из ИИ. Рекомендуются усиление технической базы, независимый надзор и большая прозрачность для обеспечения безопасности, подотчетности и надежности систем ИИ.
Конкретные предложения для стейкхолдеров
Рекомендации включают:
- Укрепление государственных возможностей путем инвестирования в техническую экспертизу, вычислительную инфраструктуру, грамотность в области ИИ и институты безопасности ИИ для лучшей оценки и управления системами ИИ.
- Внедрение независимого тестирования ИИ посредством оценок третьих сторон, непрерывного мониторинга и стандартизированной отчетности о происшествиях, связанных с ИИ. Anthropic предложила аналогичную структуру, предполагающую, что системы передового ИИ должны проходить обязательную предварительную оценку, сравнимую с сертификацией безопасности в авиации, перед публичным выпуском.
- Повышение прозрачности путем поощрения разработчиков ИИ делать свои системы более открытыми и продолжать их мониторинг после развертывания посредством отчетности о происшествиях, отзывов пользователей и анализа использования.
- Обеспечение человеческого надзора путем четкого определения участия человека в решениях с высоким риском или этически чувствительных вопросах и укрепления рамок ответственности по мере роста автономии систем ИИ.
- Повышение грамотности в области ИИ путем улучшения общественного понимания возможностей, ограничений и рисков ИИ, а также упрощения систем ИИ для понимания и интерпретации пользователями.
Достаточность текущего регулирования
Оценка ООН показывает, что существующие усилия по управлению начались, но они остаются недостаточными для соответствия технологическому прогрессу. Хотя в различных юрисдикциях существует множество инструментов управления ИИ, многие из них включают принципы этики и прав человека, эти инициативы остаются фрагментированными, часто сконцентрированы среди ограниченного числа компаний и стран, и редко измеряют свою реальную эффективность. Отчет также отмечает, что методы оценки остаются недостаточно разработанными, а учреждения, необходимые для независимого надзора, отсутствуют.
