Правительство США внедрило новую систему надзора за передовыми системами искусственного интеллекта (ИИ). Предложение, представленное во вторник (4-го числа), предусматривает, что только определенные закрытые модели ИИ пройдут добровольную оценку безопасности перед выпуском их крупными отраслевыми компаниями для общественности.
Эта структура, разработанная под руководством президента Дональда Трампа, на данный момент исключает модели с открытым исходным кодом (open source). Это исключение может быть выгодно компаниям, использующим такой подход к разработке, и вновь поднимает дебаты о регулировании ИИ.
Источники, близкие к обсуждениям, сообщили The Wall Street Journal, что только разработчики проприетарного ИИ, достигшие уровня, считающегося передовым — включая продвинутые навыки взлома систем и кибербезопасности, измеряемые тестами производительности, — будут приглашены добровольно представить свои технологии для предварительного государственного анализа перед запуском.
Среди корпораций, которые, вероятно, должны будут соблюдать этот процесс, находятся OpenAI, Anthropic и Google, чьи модели считаются одними из самых сложных на рынке. С другой стороны, компании, ориентированные на открытые модели, такие как Nvidia и Meta, исключены из этого первого этапа, хотя эта ситуация может измениться по мере развития этих технологий.
Пересмотр является частью стратегии Трампа в отношении ИИ
Эта новая процедура соответствует исполнительному указу, подписанному Трампом в июне, целью которого является усиление надзора за более мощными системами ИИ без ущерба для конкурентоспособности США на технологической арене против Китая.
Хотя участие компаний является добровольным, руководители отрасли предупреждают, что пренебрежение проверкой может повлечь за собой репутационные риски, если позже будут обнаружены проблемы с безопасностью. Лиз Хастон, пресс-секретарь Белого дома, заявила, что компании, сотрудничающие с администрацией в рамках этой структуры, отдают приоритет инновациям, безопасности и киберзащите Соединенных Штатов.
Руководящие принципы были представлены во время встречи с представителями таких компаний, как OpenAI, Anthropic, Microsoft, Meta, Google и Nvidia. Несмотря на запрос корпоративного вклада, Белый дом сообщил The New York Times, что правила процесса проверки моделей ИИ почти финализированы.
Исключение открытых моделей вызывает критику
Решение об исключении моделей с открытым исходным кодом привлекло внимание экспертов. Такие системы позволяют сделать код доступным, чтобы разработчики могли загружать, изменять и свободно использовать его. Компании, такие как Nvidia, Meta и Google, предоставляют версии этой технологии.
Вопрос приобрел актуальность после прогресса открытых моделей, созданных китайскими компаниями, такими как Alibaba, DeepSeek и Moonshot AI, которые недавно достигли производительности, сравнимой с ведущими американскими моделями. Несмотря на опасения по поводу быстрого развития этих инструментов, американские власти признают сложность их подачи на проверку, поскольку китайские компании вряд ли согласятся добровольно участвовать в процессе, проводимом США.
Линдси Горман, бывший технологический консультант администрации Джо Байдена, заявила, что новая модель оставляет критические вопросы без ответа, отметив: «Я не думаю, что эта структура серьезно отвечает на вопрос о том, каковы должны быть пределы для передового искусственного интеллекта и должны ли эти барьеры становиться более жесткими по мере развития технологии».
Недавние инциденты ускорили создание правил
Этот новый регуляторный этап появился всего через несколько дней после обнародования новых событий, связанных с моделями искусственного интеллекта. На этой неделе Институт безопасности ИИ Великобритании сообщил, что модели OpenAI и Anthropic совершили потенциально вредоносные действия во время проверок безопасности, включая попытки внедрить вредоносный код в проект программного обеспечения с открытым исходным кодом и целенаправленные атаки на реальные организации.
OpenAI также сообщила, что одна из ее моделей использовала уязвимость конфигурации во время другого теста для доступа в интернет и просмотра веб-сайта без разрешения. Эти события усилили опасения американского правительства относительно присущих рисков передовых систем ИИ, увеличивая давление на внедрение механизмов надзора.
Детали останутся конфиденциальными
Даже формализуя процесс проверки для передовых моделей, Белый дом решил сохранить в тайне многие аспекты инициативы. По словам источников, проинформировавших Times, детали *framework*, который будет направлять проверку моделей ИИ, не будут обнародованы. Кроме того, список организаций, считающихся 'надежными' и имеющих ранний доступ к передовым моделям через правительство, также останется конфиденциальным.
Это решение было подвергнуто критике со стороны экспертов по управлению ИИ. Брэд Карсон, президент Americans for Responsible Innovation, прокомментировал Times: «Набор правил может контролировать компании ИИ только в том случае, если люди за пределами этих компаний знают эти правила». Он добавил, что «Сохранение этой структуры в секрете снижает прозрачность и ослабляет публичную подотчетность».
Конфликт с Китаем влияет на стратегию
Определение этих новых руководящих принципов происходит на фоне растущей конкуренции между США и Китаем за доминирование в области ИИ. Трамп утверждал, что регулирование не должно препятствовать развитию американских компаний, аргументируя это тем, что: «В Китае практически нет контроля. У них гораздо больше свободы. Мы должны быть осторожны, чтобы не ограничить наши компании до такой степени, чтобы отстать от Китая».
Одновременно члены администрации обсуждают возможные ограничения в отношении некоторых китайских компаний, утверждая, что они могли использовать достижения, разработанные американскими компаниями, для обучения собственных моделей недобросовестным образом.
