После инцидента с отключением Fable 5, продемонстрировавшего способность Вашингтона мгновенно останавливать самые мощные модели искусственного интеллекта, отрасль начала формировать план, чтобы подобный хаотичный сценарий больше не повторился. Критики отмечают, что этот план может лишь заменить прямой контроль Вашингтона на более отточенный механизм управления.
Новая инициатива от Google DeepMind
Соучредитель и генеральный директор Google DeepMind Демис Хассабис опубликовал манифест на платформе X под названием «Структура для передового ИИ и рассвет новой эры». В нем он призвал создать новый орган, который будет проводить проверку самых продвинутых моделей ИИ перед их выпуском. В течение одного дня этот призыв получил поддержку руководителей Microsoft, OpenAI и xAI, что является необычным проявлением единства в индустрии, привыкшей к жесткой конкуренции.
Механизм стандартизации
В основе предлагаемого плана лежит создание «органа по стандартам», который по своей модели схож с Financial Industry Regulatory Authority (Finra). Эта частная организация, финансируемая самой индустрией, осуществляет надзор за Уолл-стрит под контролем правительства США. Данный орган, поддерживаемый Вашингтоном, но финансируемый лабораториями ИИ, должен будет тестировать передовые модели на предмет наиболее опасных возможностей — кибер-, биологических и «обманных» или агентных рисков. Проверка будет проводиться коллегией технических экспертов с большинством независимых членов, включая представителей индустрии, правительства и открытого исходного кода.
Хассабис написал, что изначально передовые лаборатории добровольно предоставляли бы модели органу по стандартам для обзора за тридцать дней до выпуска. Он добавил, что после демонстрации эффективности и надежности протокола оценки, формализация процесса могла бы быстро последовать, требуя, чтобы передовые модели проходили эту проверку для вывода на рынок США.
Применение правил и сроки
Эти правила должны распространяться на любые модели передового класса, независимо от их страны происхождения или того, являются ли они открытыми или закрытыми, за исключением стартапов и академических учреждений. Хассабис полагает, что сам статус «передовой» послужит стимулом для участия, заявив Axios, что прохождение тестирования является «довольно приятным активом престижа».
Хассабис, который месяцами консультировал администрацию Трампа, руководителей других лабораторий и европейских чиновников перед публичным заявлением, сообщил Axios, что желает, чтобы этот орган начал работу «до конца года», поскольку считает, что общий искусственный интеллект «скорее всего, будет доступен через несколько коротких лет». Эта идея развивает предложения, сделанные руководителями ИИ мировым лидерам на саммите G7 в Эвиане в июне.
Поддержка и разногласия в отрасли
Генеральный директор Microsoft Сатья Наделла назвал инициативу «важной частью от Демиса», подчеркнув, что цель состоит в создании экосистемы, которая «способствует инновациям и выбору, избегая при этом какого-либо единичного сбоя, который разрушит мир». Сэм Альтман из OpenAI также выразил поддержку, ранее используя статью в Financial Times, чтобы потребовать создания международной форума под руководством США по схожим принципам.
Даже Илон Маск, чья xAI является единственной крупной передовой лабораторией вне группы безопасности Frontier Model Forum, дал взвешенную поддержку, написав в X в среду: «В целом, это продуманная структура и, безусловно, хорошая отправная точка для обсуждений». Это отличается от его июньского тона, когда он шутливо предлагал название «AIAIAI» при обсуждении регулятора ИИ.
Дарио Амодеи из Anthropic согласен с направлением, но не с дизайном. В эссе за июнь он выступал за федеральное агентство в стиле FAA с законодательными полномочиями для блокировки небезопасных моделей. Как отметил Axios, руководители лабораторий теперь сходятся во мнении, что Вашингтон должен их регулировать, «различаясь главным образом в том, кто обладает властью».
Вопросы юрисдикции и Китая
Наиболее очевидный пробел в предложении Хассабиса касается Китая. Хотя Хассабис настаивает на применении своих стандартов ко всем передовым моделям независимо от их происхождения, он не уточняет, как орган, базирующийся в США, сможет заставить китайских разработчиков — таких как DeepSeek и Zhipu AI, которые приближаются к передовым возможностям — предоставить свои модели для тестирования.
Ведущие лаборатории в Пекине придерживаются противоположной стратегии: Тан Цзе из Zhipu утверждает, что безопасность достигается широким доступом, а не технологическими барьерами, и выпустил свою последнюю модель с открытым исходным кодом. После публикации весов модели ни один орган не может ее отозвать или приостановить.
Урок инцидента Fable 5
Другой открытый вопрос — могло ли это предложение предотвратить кризис, который его вдохновил. В июне министр торговли США Говард Латник ввел экспортный контроль над Claude Fable 5 и Mythos 5 через несколько дней после их запуска, применив правовой режим, созданный для физических товаров, к облачному сервису. Это произошло после того, как исследователи Amazon взломали защиту Fable 5, просто попросив модель прочитать кодовую базу и исправить ее недостатки, после чего она обнаружила уязвимости и в одном случае сгенерировала эксплойт-код.
Anthropic оспаривала серьезность ситуации, показывая, что менее способные конкурирующие модели могли сделать то же самое, но ей пришлось отключить обе модели по всему миру в течение ночи, восстановив доступ только через две недели после переговоров, которые, по ее словам, не имели никаких правил, протокола или руководства.
В рамках режима Хассабиса возможности Fable 5 были бы протестированы на соответствие опубликованному протоколу до выпуска, а после выпуска недостатки решались бы посредством управляемого процесса установки исправлений, а не директивой, спущенной в пятницу вечером. Обещание заключается в предсказуемости. Однако это не устранит базовые полномочия Вашингтона по экспортному контролю — решительная администрация все равно могла бы действовать вне протокола, как это было в июне — а история показывает, что добровольные режимы имеют свои пределы.
Риски добровольного регулирования
Том Уилер, научный сотрудник Брукингов и бывший председатель Федеральной комиссии по связи США, отметил, что аналогичные международные органы по стандартам, такие как Financial Action Task Force и Базельский банковский комитет, работали потому, что несоблюдение влечет за собой реальные санкции. Он заявил: «Добровольное соблюдение означает, что результат — это лишь предположение, а не стандарт».
Он также предупредил, что процесс, ограниченный самими компаниями, «решает проблемы компаний, давая правительствам прикрытие, чтобы казаться делающими что-то». Кроме того, неясно, что помешает этому органу стать инструментом администрации Трампа. Дизайн предусматривает независимость в стиле Finra, но орган все равно будет, по формулировке Axios, «отчитываться перед правительством США», а Белый дом относился к формальному регулированию сдержанно; Шрирам Кришнанан, его старший советник по ИИ до конца июня, заявил Financial Times: «не будет ФДА для ИИ», ссылаясь на Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США.
Доступ для развивающегося мира
Институт R Street предупредил после отключения, что экспортный контроль стал «постоянным инструментом политики», который можно применять «против любой лаборатории, модели или компании, которая становится неудобной». Добавление органа по стандартам не отменяет этого. Для развивающегося мира доступ к передовым технологиям по-прежнему будет предоставляться, а не гарантироваться, привратником в Вашингтоне. Ничто в этой структуре не дает Южной Африке или любому другому африканскому правительству голоса в органе, который будет решать, какие модели достигнут их рынков; коллегия, которую представляет Хассабис, состоит из представителей индустрии, правительства США и сообщества открытого исходного кода. Для стран, потребляющих передовой ИИ, но не создающих его, более гладкие ворота все равно остаются воротами.
Хассабис стремится запустить этот орган в течение нескольких месяцев, однако вопросы принуждения, состава совета за пределами финансирующей его индустрии и участия Китая остаются нерешенными. До тех пор урок июня остается актуальным: тот, кто контролирует ворота развертывания, контролирует доступ мира к передовому ИИ, и эти ворота остаются в Вашингтоне.
