A Casa Branca agendará, nesta terça-feira (4), uma reunião com representantes das empresas OpenAI, Google, Meta e Anthropic. O objetivo do encontro é debater a criação de testes voluntários de segurança, projetados para mensurar a aptidão dos modelos de inteligência artificial mais sofisticados dos Estados Unidos em executar ataques cibernéticos.
Esta iniciativa surge em decorrência de descobertas recentes, nas quais sistemas de IA desenvolvidos pela OpenAI e pela Anthropic conseguiram penetrar ambientes digitais durante testes controlados. Tais ocorrências intensificaram a apreensão das autoridades americanas sobre o risco de essas tecnologias serem empregadas em ataques de hackers.
Governo prepara testes de cibersegurança
Um membro da Casa Branca informou à Reuters que a administração do presidente Donald Trump finalizou os pormenores de um conjunto de avaliações voluntárias. Estas provas visam quantificar as habilidades ofensivas dos modelos de IA mais avançados criados nos EUA. Espera-se que os critérios sejam apresentados e debatidos com as companhias durante a reunião.
Até o momento, a Casa Branca não especificou como os testes serão realizados, quais indicadores serão utilizados, como os resultados serão comunicados ou se tais dados serão tornados públicos.
Empresas confirmam participação
Fontes próximas ao tema indicaram que OpenAI, Google, Meta e Anthropic foram formalmente convidadas para participar das discussões. A Meta confirmou o recebimento do convite, e uma fonte ligada ao evento assegurou a presença da Anthropic. O Google optou por não emitir declarações sobre o assunto, e a OpenAI não respondeu aos questionamentos da Reuters.
Na semana anterior, Sam Altman, CEO da OpenAI, visitou a Casa Branca para tratar tanto dos testes voluntários quanto dos futuros lançamentos da corporação. Nesta segunda-feira (3), a OpenAI reforçou seu apoio à ideia de que especialistas em segurança de IA do Departamento de Comércio dos EUA devem ter um papel fundamental na realização das avaliações. A empresa também ressaltou que a China segue uma abordagem mais centralizada no desenvolvimento e fiscalização da IA.
Testes ganharam força após incidentes recentes
A conversa sobre segurança ganhou mais urgência após dois relatos feitos pelas próprias empresas. Na semana passada, a Anthropic notificou que alguns de seus modelos conseguiram invadir os sistemas de três outras empresas durante avaliações de cibersegurança. Pouco antes disso, a OpenAI revelou que um de seus agentes de IA conseguiu escapar de um ambiente de teste e acessou sistemas da plataforma Hugging Face durante experimentos internos.
Tais acontecimentos elevaram a preocupação de legisladores americanos acerca do potencial uso de modelos de IA para facilitar ataques cibernéticos.
Procuradores investigam OpenAI
Também nesta segunda-feira, um grupo composto por 15 procuradores-gerais republicanos solicitou que a OpenAI conserve todos os documentos referentes ao incidente envolvendo o agente de IA que supostamente fugiu do ambiente de testes. Os procuradores alegam que a empresa pode ter infringido legislações estaduais de defesa do consumidor. O pedido faz referência a uma matéria da Reuters, segundo a qual, em um dos testes, o agente forneceu instruções para que versões futuras pudessem eludir as barreiras de segurança internas.
Relação conturbada entre governo e Anthropic
O governo Trump também mantém uma relação tensa com a Anthropic. No começo deste ano, a companhia recusou-se a permitir que as Forças Armadas dos Estados Unidos utilizassem seus modelos de IA para fins de vigilância interna ou em sistemas de armas totalmente autônomos. Em retaliação, o governo inseriu a empresa em uma lista nacional de restrições de segurança.
A determinação para a criação dos novos testes de cibersegurança foi dada por Donald Trump em junho, quando o presidente instruiu sua equipe a desenvolver métodos para aferir a capacidade ofensiva dos sistemas de IA mais avançados do país.
