Агентство США использует ИИ от Anthropic для поиска уязвимостей в государственных системах

Напряженность между Anthropic и правительством США

Использование Mythos CISA происходит на фоне напряженных отношений между Anthropic и правительством США. Компания со штаб-квартирой в Сан-Франциско, которая подавала конфиденциальный запрос на первичное публичное размещение акций (IPO) в США, пережила критический момент в феврале. В тот период она отказалась удалять защиты из своего искусственного интеллекта, которые препятствовали бы его использованию в системах внутреннего наблюдения или автономном оружии.

В результате Министерство обороны США официально классифицировало Anthropic как риск для цепочки поставок. Эта классификация до этого применялась только к иностранным компаниям, подозреваемым в содействии разведывательной деятельности. Однако это решение было впоследствии заблокировано судьей в марте. С тех пор напряженность снизилась после частного запуска Mythos, модели ИИ, описанной как чрезвычайно способная выявлять и использовать уязвимости в области кибербезопасности.

Другие агентства также тестируют модель

Предыдущая информация, опубликованная Axios, указывает на то, что Агентство национальной безопасности США (NSA) использует Mythos с апреля, даже во время действия классификации риска. В конце прошлого месяца газета The New York Times сообщила, что аналитики NSA тестировали модель в конфиденциальных средах и были впечатлены ее возможностями. Позже Anthropic выпустила публичную версию Mythos под названием Fable, которая, по утверждению самой компании, содержала меры защиты, ориентированные на кибербезопасность.

После этого выпуска Белый дом потребовал от Anthropic ограничить доступ к модели для международных пользователей. Этот приказ привел к глобальной приостановке работы инструмента, которая была прекращена только на прошлой неделе.

Позиция вовлеченных сторон

Reuters пыталась связаться с Anthropic, но компания не предоставила ответов относительно этой инициативы. Представитель CISA сообщил в прошлом месяце, что рассмотрит возможность обмена данными по проекту, но не ответил на последующие контакты. В заключение, NSA отказалась комментировать этот вопрос.