Uma nova metodologia de ataque foi identificada, explorando uma limitação inerente aos modelos de inteligência artificial (IA) e com potencial para comprometer milhares de computadores. De acordo com a Ars Technica, esta descoberta afeta nove ferramentas populares utilizadas por programadores, demonstrando como uma funcionalidade dos assistentes de IA pode ser utilizada por criminosos.
Mecanismo do Ataque HalluSquatting
O ataque recebeu o nome de HalluSquatting e capitaliza uma característica comum nos grandes modelos de linguagem (LLMs): quando estes não conseguem identificar um projeto específico, eles tendem a inventar um endereço em vez de declarar desconhecimento. Embora pareça um mero detalhe técnico, é neste ponto que o risco se materializa. Criminosos registram previamente esses endereços inventados, inserem códigos maliciosos e aguardam que um assistente de programação tente acessá-los automaticamente.
Escalabilidade do Vetor de Ataque
Ao contrário da maioria das injeções de prompt, que exigem uma ação específica contra cada alvo, o HalluSquatting inverte essa lógica. São os próprios agentes de IA que buscam projetos durante suas atividades rotineiras. Pesquisadores indicaram que a natureza escalável deste ataque possibilita que o invasor comprometa um grande volume de usuários com um esforço mínimo. Se o desenvolvedor solicitar a instalação de um projeto recém-lançado e o sistema falhar no endereço, ele pode inadvertidamente acessar a página preparada pelo criminoso.
Foco em Projetos Recentes
Testes realizados revelaram que os LLMs conseguem localizar corretamente a maior parte dos projetos publicados antes de 2019. Contudo, entre os lançamentos de 2025, a taxa média de alucinação atinge impressionantes 92,4%. Como esses projetos ainda não fazem parte do conjunto de treinamento dos modelos, há maior probabilidade de a IA gerar endereços inexistentes. A equipe de pesquisa também conseguiu mapear padrões previsíveis nessas respostas, facilitando o registro antecipado desses nomes por parte dos invasores.
Riscos Associados à Alucinação
Caso o código malicioso seja executado, o computador afetado pode ser integrado a uma rede sob controle remoto dos criminosos. Os perigos apontados incluem a formação de botnets, ataques de ransomware, ataques distribuídos de negação de serviço (DDoS) e a mineração ilegal de criptomoedas. Michael Bargury, CTO da Zenity, classificou a situação como uma 'pesquisa muito interessante' e uma 'ameaça muito real'. Johann Rehberger complementou, afirmando que a maneira como os LLMs localizam projetos pode evoluir para um novo vetor de ataque.
A pesquisa enfatiza a necessidade contínua de supervisão humana sobre os assistentes de IA. É crucial verificar a origem de qualquer projeto, biblioteca ou componente sugerido automaticamente antes de instalá-lo, pois este cuidado simples pode impedir que uma alucinação do modelo se converta em uma falha de segurança.