Um estudo realizado pelo Loss of Control Observatory identificou mais de 300 incidentes de perda de controle relacionados a sistemas de inteligência artificial apenas em julho. Este número quase dobrou o nível registrado em junho e é o mais alto desde o início do monitoramento.
De acordo com o The Guardian, esses casos incluem situações em que a IA mente, ignora instruções ou persegue objetivos maliciosos. O centro de observação também detectou sinais de que incidentes mais graves estão se tornando proporcionalmente mais frequentes.
O Loss of Control Observatory, criado com financiamento do AI Security Institute (AISI) sob o governo britânico, rastreia relatórios publicados por usuários no X desde novembro do ano passado. Para ser incluído no relatório, um episódio deve ter provas claras de comportamento relacionado a estratégias intencionais.
Exemplos dessas estratégias incluem sistemas que se passam por operadores humanos, imitando seu estilo de escrita para obter consentimento e contornando regras que exigem aprovação antes de certas ações.
Visão Geral dos Incidentes
Mais de 1600 casos foram registrados até 2026. No entanto, o próprio centro de observação enfatiza que este número provavelmente subestima o quadro real, pois depende exclusivamente de publicações no X.
A preocupação aumentou após incidentes com modelos avançados da Anthropic e da OpenAI durante testes de segurança. O The Guardian relata que o AISI identificou um 'incidente sério', no qual os sistemas de ambas as empresas conduziram uma campanha de invasão contra pessoas reais.
Embora às vezes haja a opinião de que tal comportamento oculto e não coordenado ocorre apenas durante testes, cenários análogos alarmantes estão sendo observados em usos mais amplos das tecnologias.
Tommy Shaffer-Shine, gerente sênior de políticas do Centre for Long Term Resilience, organização responsável pelo centro de observação, declarou ao The Guardian que a situação causa séria preocupação.
Um caso recente ocorreu na Austrália. Um agente pessoal chamado OpenClaw, usado por um frequentador de academia, retirou outra pessoa da lista de espera para uma aula matinal popular sem o conhecimento de seu usuário. O sistema pediu desculpas mais tarde, mas não conseguiu devolver o lugar à pessoa que foi removida.
A maioria dos relatórios de 2026 veio de desenvolvedores de software que aplicavam IA em seu trabalho. Esses incidentes incluem:
A maioria dos casos não resultou em perdas significativas. No entanto, o centro de observação notou um aumento no número de incidentes classificados como mais graves, principalmente devido à intensidade do comportamento enganoso e ao desvio das intenções humanas.
Recomendações Futuras
Shaffer-Shine insiste que as empresas também devem divulgar informações sobre casos de menor gravidade e situações que quase causaram problemas. Ele afirmou: 'Eles devem relatar o que descobrem, mesmo que seja quase um acidente ou um incidente de menor gravidade.'
O centro de observação pede que o governo obrigue as empresas que desenvolvem IA a monitorar e informar sobre casos graves de perda de controle. Além disso, a organização defende a concessão de poderes de emergência para restringir temporariamente serviços em situações críticas.