OpenAI выразила желание, чтобы Соединенные Штаты взяли на себя руководство международными усилиями, направленными на разработку глобальных технических стандартов для систем искусственного интеллекта (ИИ) передового уровня, включая те, которые способны рекурсивно улучшать свои собственные функции.
Это предложение было опубликовано компанией в понедельник (21), совпав с заседанием Генеральной Ассамблеи Организации Объединенных Наций (ООН) с мировыми лидерами. Эта инициатива возникает на фоне интенсивных глобальных дебатов о том, как угнаться за быстрым прогрессом систем ИИ.
OpenAI выступает за внедрение механизмов, которые позволят сосуществовать национальным и международным нормам, а также стандартизированным метрикам и четким протоколам уведомления об инцидентах. По данным компании, это облегчит сравнение доказательств, анализ рисков и совместное реагирование на проблемы, связанные с ИИ.
Для OpenAI международные стандарты безопасности и защиты при разработке передового ИИ так же важны, как и исследования по выравниванию, необходимые для отслеживания технологической эволюции.
Проблемы и предложения по международной координации
Организация выявила три основные проблемы, которые оправдывают международную координацию, охватывающие как открытые, так и закрытые модели ИИ. Кроме того, компания утверждает, что лаборатории, занимающиеся автоматизированными исследованиями или другими передовыми возможностями, должны проводить свою работу безопасно, соблюдая основные принципы ответственного авторства и действующее законодательство.
Одним из альтернативных решений, предложенных OpenAI, является использование уже существующей сети национальных институтов по безопасности ИИ в различных странах, таких как Австралия, Канада, Германия, Франция, Кения, Япония, Южная Корея, Сингапур, Индия и Великобритания. Эти организации могли бы помочь в определении стандартов через Центр стандартов и инноваций в области ИИ (CAISI) и национальные отраслевые органы, уделяя внимание передовому ИИ и управлению рисками и преимуществами автоматизированных исследований, включая RSI.
Эти стандарты служили бы общей технической основой для измерения и оценки возможностей, расследования рисков и подтверждения эффективности защитных механизмов. OpenAI подчеркнула, что такие стандарты не являются лицензиями, требованиями предварительного одобрения или условиями утверждения моделей ИИ; решение о том, как интегрировать их в правовые системы, остается за национальными правительствами.
Предложение также предусматривает, что процесс разработки стандартов будет консультативным, с участием разработчиков открытых и закрытых моделей, независимых технических экспертов и университетов. Цель состоит в том, чтобы обеспечить прозрачную разработку стандартов, которая не будет способствовать конкретным компаниям, нациям или бизнес-моделям.
Общие измерения и отчетность об инцидентах
Вторая часть предложения OpenAI сосредоточена на создании унифицированных протоколов и измерений для сообщения об инцидентах. Компания также призывает правительства и операторов критически важной инфраструктуры создавать безопасные каналы для обмена опасениями относительно национальной безопасности, уязвимостей, возникающих угроз и передовых практик безопасности для передового ИИ.
В частности, OpenAI упомянула диалог между США и Китаем как область, где можно углубить это общение. Компания утверждает, что США хорошо позиционированы для руководства этими усилиями, поскольку их индустрия ИИ находится на переднем технологическом рубеже, а страна имеет значение в таких секторах, как финансы, торговля, оборона, технологии и информационные системы.
По анализу компании, принятие лидерства в данный момент помогло бы сформировать глобальную структуру ИИ, в то время как бездействие могло бы привести к неравномерной и фрагментированной системе. Это предложение возникает в период интенсивных международных дискуссий о необходимости координации разработки передовых систем.
OpenAI и другие лидеры отрасли обсуждают методы отслеживания темпов технологического развития перед лицом присущих риска систем, которые могут превзойти возможности человеческого надзора. Однако OpenAI подчеркивает, что концепция «установления темпа» не означает определение фиксированной скорости развития ИИ; технически цель состоит в том, чтобы гарантировать, что исследования по выравниванию и их применение остаются впереди возможностей систем.
