O governo dos Estados Unidos implementou um novo sistema de fiscalização para sistemas avançados de inteligência artificial (IA). A proposta, apresentada na terça-feira (4), determina que somente certos modelos de IA de código fechado passarão por uma avaliação de segurança voluntária antes de serem liberados ao público pelas principais empresas do setor.
Esta estrutura, desenvolvida sob a gestão do presidente Donald Trump, opta por excluir, pelo menos neste momento, os modelos de código aberto (open source). Essa exclusão pode ser benéfica para empresas que adotam essa abordagem de desenvolvimento e reacende o debate sobre a regulamentação da IA.
Fontes próximas às discussões informaram ao The Wall Street Journal que apenas desenvolvedores de IA proprietária que alcancem patamares considerados de ponta — incluindo competências avançadas em invasão de sistemas e cibersegurança, medidos por testes de desempenho — serão convidados a submeter suas tecnologias voluntariamente à análise governamental pré-lançamento.
Entre as corporações que provavelmente precisarão aderir a este processo estão OpenAI, Anthropic e Google, cujos modelos são classificados entre os mais sofisticados do mercado. Por outro lado, companhias focadas em modelos abertos, como Nvidia e Meta, ficam de fora desta primeira etapa, embora essa situação possa mudar conforme a evolução dessas tecnologias.
A revisão faz parte da estratégia de Trump para IA
Este novo procedimento está alinhado com uma ordem executiva assinada por Trump em junho, cujo objetivo é intensificar a vigilância sobre sistemas de IA mais potentes, sem prejudicar a competitividade dos EUA no cenário tecnológico contra a China.
Embora a adesão das empresas seja voluntária, executivos do setor alertam que negligenciar a revisão pode acarretar riscos de imagem caso falhas de segurança venham a ser descobertas posteriormente. Liz Huston, porta-voz da Casa Branca, declarou que as empresas que colaborarem com a administração através deste arcabouço estarão priorizando a inovação, a segurança e a defesa cibernética dos Estados Unidos.
As diretrizes foram apresentadas durante um encontro com representantes de empresas como OpenAI, Anthropic, Microsoft, Meta, Google e Nvidia. Apesar de solicitar contribuições empresariais, a Casa Branca comunicou ao The New York Times que as regras do processo de revisão dos modelos de IA já estão quase finalizadas.
A exclusão de modelos abertos gera críticas
A decisão de omitir os modelos de código aberto atraiu a atenção de especialistas. Tais sistemas permitem que o código seja acessível para que desenvolvedores possam baixá-lo, alterá-lo e utilizá-lo livremente. Empresas como Nvidia, Meta e Google fornecem versões desse tipo de tecnologia.
O assunto ganhou relevância após o progresso de modelos abertos criados por empresas chinesas, como Alibaba, DeepSeek e Moonshot AI, que recentemente alcançaram um desempenho comparável aos principais modelos americanos. Apesar da apreensão com a rápida evolução dessas ferramentas, autoridades americanas reconhecem a dificuldade em submetê-las às revisões, visto que as empresas chinesas dificilmente aceitariam participar voluntariamente do processo conduzido pelos EUA.
Lindsay Gorman, ex-consultora de tecnologia do governo Joe Biden, manifestou que o novo modelo deixa questões cruciais sem resposta, afirmando: “Não acho que essa estrutura enfrente seriamente a pergunta sobre quais deveriam ser os limites para a inteligência artificial avançada e se essas barreiras deveriam se tornar mais rígidas à medida que a tecnologia evolui”.
Incidentes recentes aceleraram a criação das regras
Este novo marco regulatório surgiu poucos dias após a divulgação de novos eventos envolvendo modelos de inteligência artificial. Nesta semana, o AI Security Institute do Reino Unido reportou que modelos da OpenAI e da Anthropic realizaram ações potencialmente danosas durante avaliações de segurança, incluindo tentativas de injetar código malicioso em um projeto de software de código aberto e ataques direcionados a organizações reais.
A OpenAI também revelou que um de seus modelos explorou uma vulnerabilidade de configuração durante outro teste para acessar a internet e navegar em um site sem permissão. Esses acontecimentos reforçaram as preocupações do governo americano acerca dos riscos inerentes aos sistemas de IA mais avançados, aumentando a pressão pela implementação de mecanismos de supervisão.
Os detalhes permanecerão em sigilo
Mesmo ao formalizar um processo de revisão para modelos avançados, a Casa Branca optou por manter em sigilo vários aspectos da iniciativa. Segundo fontes informadas ao Times, os pormenores do *framework* que guiará a revisão dos modelos de IA não serão tornados públicos. Além disso, a lista de entidades consideradas ‘confiáveis’ e que terão acesso antecipado aos modelos avançados junto ao governo também permanecerá confidencial.
Essa decisão foi criticada por especialistas em governança de IA. Brad Carson, presidente da Americans for Responsible Innovation, comentou ao Times: “Um conjunto de regras só consegue manter as empresas de IA sob controle se pessoas de fora dessas empresas souberem quais são essas regras”. Ele acrescentou que “Manter essa estrutura em segredo reduz a transparência e enfraquece a responsabilização pública.”
A disputa com a China influencia a estratégia
A definição destas novas orientações ocorre em um contexto de crescente rivalidade entre Estados Unidos e China pelo domínio da IA. Trump defendeu que a regulamentação não deve impedir o avanço das empresas americanas, argumentando: “Na China praticamente não há controles. Eles têm muito mais liberdade. Precisamos ter cuidado para não restringir nossas empresas a ponto de ficarmos atrás da China”.
Simultaneamente, membros da administração têm debatido possíveis restrições a certas empresas chinesas, alegando que estas poderiam ter usado avanços desenvolvidos por companhias americanas para treinar seus próprios modelos de maneira considerada desleal.
