Организация Объединенных Наций (ООН) утверждает, что правительства не должны ждать полного понимания всех опасностей искусственного интеллекта (ИИ), чтобы начать разработку мер безопасности. Это предупреждение было представлено в первом тематическом докладе международного научного комитета, созданного организацией для анализа как рисков, так и возможностей этой технологии.
Документ указывает на угрозы, которые имеют потенциал катастрофических или необратимых последствий. Эта дискуссия проходит во время Генеральной Ассамблеи ООН, когда США и Китай готовятся к обсуждению вопросов, связанных с искусственным интеллектом.
Для этого комитета не требуется точно определять, как или почему происходят определенные события с участием передовых систем ИИ, прежде чем укреплять безопасность. Рекомендация следует принципу предосторожности, который гласит, что простая научная неопределенность не должна препятствовать принятию мер против потенциального серьезного или необратимого ущерба. Эта концепция была первоначально включена в Рио-де-Жанейрскую декларацию по окружающей среде и развитию 1992 года и повлияла на политику общественного здравоохранения и экологии.
В докладе подчеркивается важность этого принципа в свете возможности утраты контроля над системами ИИ. Среди отмеченных аспектов упоминаются инциденты с такими компаниями, как OpenAI, Anthropic, Google и Meta, включая атаки на реальные цели и группы агентов, захвативших контроль над чатами.
Научный комитет является частью структуры, созданной ООН для обсуждения управления ИИ. Его цель — предоставить правительствам беспристрастный анализ того, что уже известно, а что остается неизвестным об этой технологии. Параллельно существует Глобальный диалог по управлению ИИ, который объединяет правительства и другие секторы для обсуждения сотрудничества и совместимости различных подходов к управлению.
Антониу Гутерреш, генеральный секретарь ООН, обобщил позицию организации, заявив, что, хотя действия на национальном уровне имеют решающее значение, глобальная координация необходима. Эта тема приобретает международное значение в то время, когда США и Китай готовятся к диалогу об ИИ. Гутерреш выступает за то, чтобы страны с наибольшими возможностями в разработке передовых систем поддерживали открытые каналы связи, обменивались информацией и устанавливали взаимные меры безопасности.