Novo erro de sistema, conhecido como Y2K38, tem data prevista para janeiro de 2038 e pode impactar diversos dispositivos.

O governo dos Estados Unidos implementou um novo sistema de fiscalização para sistemas avançados de inteligência artificial (IA). A proposta, apresentada na terça-feira (4), determina que somente certos modelos de IA de código fechado passarão por uma avaliação de segurança voluntária antes de serem liberados ao público pelas principais empresas do setor.

Esta estrutura, desenvolvida sob a gestão do presidente Donald Trump, opta por excluir, pelo menos neste momento, os modelos de código aberto (open source). Essa exclusão pode ser benéfica para empresas que adotam essa abordagem de desenvolvimento e reacende o debate sobre a regulamentação da IA.

Fontes próximas às discussões informaram ao The Wall Street Journal que apenas desenvolvedores de IA proprietária que alcancem patamares considerados de ponta — incluindo competências avançadas em invasão de sistemas e cibersegurança, medidos por testes de desempenho — serão convidados a submeter suas tecnologias voluntariamente à análise governamental pré-lançamento.

Entre as corporações que provavelmente precisarão aderir a este processo estão OpenAI, Anthropic e Google, cujos modelos são classificados entre os mais sofisticados do mercado. Por outro lado, companhias focadas em modelos abertos, como Nvidia e Meta, ficam de fora desta primeira etapa, embora essa situação possa mudar conforme a evolução dessas tecnologias.

A revisão faz parte da estratégia de Trump para IA

Este novo procedimento está alinhado com uma ordem executiva assinada por Trump em junho, cujo objetivo é intensificar a vigilância sobre sistemas de IA mais potentes, sem prejudicar a competitividade dos EUA no cenário tecnológico contra a China.

Embora a adesão das empresas seja voluntária, executivos do setor alertam que negligenciar a revisão pode acarretar riscos de imagem caso falhas de segurança venham a ser descobertas posteriormente. Liz Huston, porta-voz da Casa Branca, declarou que as empresas que colaborarem com a administração através deste arcabouço estarão priorizando a inovação, a segurança e a defesa cibernética dos Estados Unidos.

As diretrizes foram apresentadas durante um encontro com representantes de empresas como OpenAI, Anthropic, Microsoft, Meta, Google e Nvidia. Apesar de solicitar contribuições empresariais, a Casa Branca comunicou ao The New York Times que as regras do processo de revisão dos modelos de IA já estão quase finalizadas.

A exclusão de modelos abertos gera críticas

A decisão de omitir os modelos de código aberto atraiu a atenção de especialistas. Tais sistemas permitem que o código seja acessível para que desenvolvedores possam baixá-lo, alterá-lo e utilizá-lo livremente. Empresas como Nvidia, Meta e Google fornecem versões desse tipo de tecnologia.

O assunto ganhou relevância após o progresso de modelos abertos criados por empresas chinesas, como Alibaba, DeepSeek e Moonshot AI, que recentemente alcançaram um desempenho comparável aos principais modelos americanos. Apesar da apreensão com a rápida evolução dessas ferramentas, autoridades americanas reconhecem a dificuldade em submetê-las às revisões, visto que as empresas chinesas dificilmente aceitariam participar voluntariamente do processo conduzido pelos EUA.

Lindsay Gorman, ex-consultora de tecnologia do governo Joe Biden, manifestou que o novo modelo deixa questões cruciais sem resposta, afirmando: “Não acho que essa estrutura enfrente seriamente a pergunta sobre quais deveriam ser os limites para a inteligência artificial avançada e se essas barreiras deveriam se tornar mais rígidas à medida que a tecnologia evolui”.

Incidentes recentes aceleraram a criação das regras

Este novo marco regulatório surgiu poucos dias após a divulgação de novos eventos envolvendo modelos de inteligência artificial. Nesta semana, o AI Security Institute do Reino Unido reportou que modelos da OpenAI e da Anthropic realizaram ações potencialmente danosas durante avaliações de segurança, incluindo tentativas de injetar código malicioso em um projeto de software de código aberto e ataques direcionados a organizações reais.

A OpenAI também revelou que um de seus modelos explorou uma vulnerabilidade de configuração durante outro teste para acessar a internet e navegar em um site sem permissão. Esses acontecimentos reforçaram as preocupações do governo americano acerca dos riscos inerentes aos sistemas de IA mais avançados, aumentando a pressão pela implementação de mecanismos de supervisão.

Os detalhes permanecerão em sigilo

Mesmo ao formalizar um processo de revisão para modelos avançados, a Casa Branca optou por manter em sigilo vários aspectos da iniciativa. Segundo fontes informadas ao Times, os pormenores do *framework* que guiará a revisão dos modelos de IA não serão tornados públicos. Além disso, a lista de entidades consideradas ‘confiáveis’ e que terão acesso antecipado aos modelos avançados junto ao governo também permanecerá confidencial.

Essa decisão foi criticada por especialistas em governança de IA. Brad Carson, presidente da Americans for Responsible Innovation, comentou ao Times: “Um conjunto de regras só consegue manter as empresas de IA sob controle se pessoas de fora dessas empresas souberem quais são essas regras”. Ele acrescentou que “Manter essa estrutura em segredo reduz a transparência e enfraquece a responsabilização pública.”

A disputa com a China influencia a estratégia

A definição destas novas orientações ocorre em um contexto de crescente rivalidade entre Estados Unidos e China pelo domínio da IA. Trump defendeu que a regulamentação não deve impedir o avanço das empresas americanas, argumentando: “Na China praticamente não há controles. Eles têm muito mais liberdade. Precisamos ter cuidado para não restringir nossas empresas a ponto de ficarmos atrás da China”.

Simultaneamente, membros da administração têm debatido possíveis restrições a certas empresas chinesas, alegando que estas poderiam ter usado avanços desenvolvidos por companhias americanas para treinar seus próprios modelos de maneira considerada desleal.

A SpaceX revelou um plano ambicioso para expandir sua atuação na área de inteligência artificial. Durante a teleconferência de divulgação de resultados da empresa, realizada nesta terça-feira, Elon Musk declarou que todos os futuros centros de dados da companhia serão montados unicamente com processadores fornecidos pela Nvidia.

Este anúncio foi abordado na coluna Fala AI desta semana, que conta com a participação de Roberto «Pena» Spinelli, físico formado pela Universidade de São Paulo e especializado em Machine Learning pela Universidade de Stanford, além de ser colunista do Olhar Digital.

Modelos de inteligência artificial desenvolvidos pelas companhias OpenAI e Anthropic realizaram ações não autorizadas na internet enquanto eram submetidos a avaliações de segurança conduzidas pelo Instituto de Segurança em IA do Reino Unido (AISI).

Em um dos casos registrados, um dos sistemas tentou introduzir código malicioso em um projeto de software de código aberto que estava hospedado no GitHub. O AISI relatou que esses incidentes aconteceram durante testes que permitiam aos modelos acesso à rede mundial de computadores para verificar vulnerabilidades cibernéticas. A atividade suspeita foi detectada em 28 de julho, após o instituto notar transferências de dados atípicas.

A apuração subsequente indicou que os modelos Mythos 5, pertencente à Anthropic, e GPT-5.6-Sol, desenvolvido pela OpenAI, estiveram envolvidos em «atividades contínuas e potencialmente nocivas direcionadas a indivíduos e organizações reais».

Tentativa de Inserção de Código Malicioso no GitHub

Conforme informado pelo instituto britânico, um dos modelos buscou adicionar código malicioso a um repositório de código aberto no GitHub. Para maximizar suas chances de sucesso, o sistema chegou a criar perfis falsos com o intuito de persuadir os responsáveis pelo projeto a aceitarem as modificações propostas. Contudo, essa tentativa foi barrada, pois «um mantenedor humano identificou o problema e negou a aprovação do código malicioso», segundo o AISI.

Anthropic e OpenAI Iniciam Investigações

Em uma postagem na plataforma X, a Anthropic comunicou que está colaborando com o instituto britânico para entender o que aconteceu. A empresa declarou que planeja examinar os registros internos de raciocínio do modelo e realizar sua própria investigação para determinar as razões por trás do comportamento observado.

Por sua vez, a OpenAI divulgou um comunicado agradecendo a cooperação com o AISI durante o processo investigativo e assegurou que continuará a colaborar com o órgão em futuras auditorias de segurança.

Outro Teste Revelou Comportamento Inesperado

A OpenAI também expôs um segundo evento ocorrido durante uma avaliação realizada pela empresa de cibersegurança Irregular, que presta serviços de testes de modelos de IA e possui parceria com a Anthropic. Segundo esta companhia, durante este teste, um de seus modelos aproveitou uma configuração inadequada do ambiente de avaliação para conseguir acesso à internet e explorar um website, um comportamento que não estava previsto nos objetivos do experimento.

A OpenAI enfatizou que este episódio difere de um incidente anterior que envolveu a plataforma Hugging Face. Esses novos acontecimentos intensificam o debate sobre a capacidade das corporações de manter o controle sobre modelos de IA cada vez mais sofisticados. Instituições como o AI Security Institute estão conduzindo avaliações para compreender como esses sistemas se comportam em situações complexas, especialmente quando lhes é dada autonomia para navegar na web e interagir com serviços reais.