Agência dos EUA utiliza IA da Anthropic para buscar falhas em sistemas governamentais

Tensão entre Anthropic e Governo dos EUA

O uso do Mythos pela CISA acontece em um contexto de relações tensas entre a Anthropic e o governo dos Estados Unidos. A empresa, sediada em San Francisco e que fez um pedido confidencial de Oferta Pública Inicial (IPO) nos EUA, vivenciou um momento crítico em fevereiro. Nesse período, ela se recusou a remover proteções em sua inteligência artificial que impediriam seu uso em sistemas de vigilância doméstica ou em armas autônomas.

Em decorrência disso, o Departamento de Defesa dos Estados Unidos classificou formalmente a Anthropic como um risco para a cadeia de suprimentos. Essa designação era aplicada, até então, somente a companhias estrangeiras suspeitas de auxiliar em atividades de espionagem. Contudo, essa determinação foi posteriormente barrada por um juiz em março. Desde então, o atrito diminuiu após o lançamento privado do Mythos, um modelo de IA descrito como extremamente apto a identificar e explorar brechas de cibersegurança.

Outras Agências Também Testam o Modelo

Informações anteriores publicadas pelo Axios apontam que a Agência de Segurança Nacional dos Estados Unidos (NSA) utiliza o Mythos desde abril, inclusive enquanto a classificação de risco estava ativa. No final do mês passado, o jornal The New York Times relatou que analistas da NSA estavam testando o modelo em ambientes confidenciais e ficaram impressionados com suas capacidades. Posteriormente, a Anthropic disponibilizou uma versão pública do Mythos, denominada Fable, que, segundo a própria empresa, continha salvaguardas focadas em cibersegurança.

Após esse lançamento, a Casa Branca exigiu que a Anthropic restringisse o acesso ao modelo por parte de usuários internacionais. Essa ordem resultou em uma suspensão global da ferramenta, que só foi encerrada na semana anterior.

Posicionamento das Partes Envolvidas

A Reuters tentou contato com a Anthropic, mas a empresa não forneceu respostas sobre a iniciativa. Um representante da CISA informou no mês passado que investigaria a possibilidade de compartilhar dados sobre o projeto, mas não respondeu a contatos subsequentes. Por fim, a NSA declinou de comentar sobre o assunto.