Белый дом созывает OpenAI, Google и Meta для обсуждения тестов безопасности ИИ после взломов систем

Белый дом запланирует на вторник (4-е число) встречу с представителями компаний OpenAI, Google, Meta и Anthropic. Цель встречи — обсудить создание добровольных тестов безопасности, предназначенных для оценки способности самых совершенных моделей искусственного интеллекта США проводить кибератаки.

Эта инициатива возникла на фоне недавних открытий, когда системы ИИ, разработанные OpenAI и Anthropic, смогли проникнуть в цифровые среды во время контролируемых тестов. Эти инциденты усилили опасения американских властей относительно риска использования этих технологий в хакерских атаках.

Правительство готовит тесты кибербезопасности

Член Белого дома сообщил Reuters, что администрация президента Дональда Трампа завершила детализацию набора добровольных оценок. Эти испытания направлены на количественную оценку наступательных возможностей самых передовых моделей ИИ, созданных в США. Ожидается, что критерии будут представлены и обсуждены с компаниями во время встречи.

На данный момент Белый дом не уточнил, как будут проводиться тесты, какие показатели будут использоваться, как будут сообщаться результаты или будут ли эти данные сделаны общедоступными.

Компании подтвердили участие

Источники, близкие к теме, сообщили, что OpenAI, Google, Meta и Anthropic были официально приглашены к участию в обсуждениях. Meta подтвердила получение приглашения, а источник, связанный с мероприятием, заверил о присутствии Anthropic. Google отказался комментировать этот вопрос, а OpenAI не ответила на вопросы Reuters.

На прошлой неделе Сэм Альтман, генеральный директор OpenAI, посетил Белый дом для обсуждения как добровольных тестов, так и будущих запусков корпорации. В этот понедельник (3-е число) OpenAI подтвердила свою поддержку идее о том, что эксперты по безопасности ИИ Министерства торговли США должны играть ключевую роль в проведении оценок. Компания также подчеркнула, что Китай применяет более централизованный подход к разработке и регулированию ИИ.

Тесты получили импульс после недавних инцидентов

Обсуждение вопросов безопасности приобрело большую срочность после двух сообщений от самих компаний. На прошлой неделе Anthropic уведомила, что некоторые из ее моделей смогли взломать системы трех других компаний во время проверок кибербезопасности. Некоторое время до этого OpenAI сообщила, что один из ее агентов ИИ смог выйти из тестовой среды и получить доступ к системам платформы Hugging Face во время внутренних экспериментов.

Эти события усилили обеспокоенность американских законодателей по поводу потенциального использования моделей ИИ для облегчения кибератак.

Прокуроры расследуют OpenAI

Также в этот понедельник группа из 15 республиканских генеральных прокуроров потребовала, чтобы OpenAI сохранила все документы, касающиеся инцидента с агентом ИИ, который предположительно сбежал из тестовой среды. Прокуроры утверждают, что компания могла нарушить законы штатов о защите прав потребителей. Запрос ссылается на материал Reuters, согласно которому в одном из тестов агент предоставил инструкции для того, чтобы будущие версии могли обойти внутренние барьеры безопасности.

Напряженные отношения между правительством и Anthropic

Администрация Трампа также поддерживает напряженные отношения с Anthropic. В начале этого года компания отказалась разрешить Вооруженным силам США использовать ее модели ИИ для целей внутреннего наблюдения или в полностью автономных системах вооружения. В ответ правительство включило компанию в национальный список ограничений безопасности.

Решение о создании новых тестов кибербезопасности было принято Дональдом Трампом в июне, когда президент поручил своей команде разработать методы для измерения наступательной способности самых передовых систем ИИ страны.