De acordo com o Google, a fase dos ataques cibernéticos autônomos já se iniciou. Em um recente relatório de segurança, a companhia informou que criminosos estão empregando agentes de inteligência artificial que são capazes de localizar falhas em softwares, criar códigos maliciosos e realizar ataques sem necessitar de intervenção humana direta.
Este aviso foi publicado pelo Google Threat Intelligence Group (GTIG) na segunda-feira, dia 16 de novembro. O grupo observou uma progressão no emprego de IA por hackers, que evoluíram de simples consultas a chatbots para sistemas aptos a gerenciar diversas fases de uma invasão.
Para o Google, a rapidez dessas novas ferramentas impõe um grande desafio às equipes de segurança, visto que estas ainda dependem de processos de análise e resposta realizados manualmente. Uma das descobertas notáveis foi um sistema denominado exploit_agent, que os pesquisadores encontraram em um servidor de testes acessível publicamente na internet.
Essa ferramenta utilizava múltiplos modelos de IA para examinar atualizações de programas e detectar potenciais pontos fracos. Na prática, o sistema fazia comparações entre versões antigas e novas dos softwares para descobrir quais problemas haviam sido corrigidos. Com base nessas informações, ele gerava códigos para explorar essas brechas e realizava testes de forma automática, sem pedir aprovação humana em cada passo.
O Google também recuperou dados obtidos de vítimas e utilitários que poderiam ser usados após a ocorrência da invasão. Os indícios sugerem um foco em portais franceses pertencentes aos segmentos de mídia, entretenimento e educação. O relatório menciona ainda as ferramentas CAIRN e PentAGI, que orquestram diferentes agentes de IA. Segundo o Google, essas ferramentas já foram vistas em ações de invasão e procura por vulnerabilidades tanto nos Estados Unidos quanto na Ásia.
Este avanço marca uma alteração em comparação com os malwares com IA que o Google identificou anteriormente. Naquela época, os especialistas destacaram as limitações das primeiras tentativas de usar modelos generativos para modificar códigos nocivos. Atualmente, a principal apreensão reside na possibilidade de os agentes conseguirem diminuir o tempo entre a revelação de uma vulnerabilidade e sua exploração por criminosos.
Para combater essas novas ameaças, o Google está expandindo o uso de recursos de segurança automatizados. O objetivo é conseguir identificar riscos e agilizar a correção de falhas. A intenção é possibilitar que os sistemas de defesa analisem programas, definam prioridades para vulnerabilidades e respondam a incidentes com uma celeridade próxima à dos ataques automatizados.
O assunto já havia sido abordado em investigações passadas. Em maio, o Google comunicou ter bloqueado uma tentativa de ataque que foi desenvolvida com assistência de IA. Outras corporações também registraram o uso dessa tecnologia em ataques reais. A Anthropic reportou uma campanha que envolvia o Claude, onde criminosos teriam automatizado grande parte das operações direcionadas a organizações de diversos países.
Apesar dos progressos, o relatório do Google enfatiza que as ferramentas autônomas ainda possuem restrições, podendo gerar códigos ineficazes, cometer equívocos e deixar vestígios que facilitam a detecção das invasões. Não obstante, a capacidade de executar mais ataques em menor tempo sublinha a extrema necessidade de corrigir vulnerabilidades com rapidez.

