Agentes de inteligência artificial projetados para auxiliar no desenvolvimento de software, incluindo Claude (desenvolvido pela Anthropic), Codex (da OpenAI) e Hermes (da Nous Research), possuem a capacidade de instalar códigos potencialmente perigosos dentro das redes de grandes empresas. Este problema de segurança foi identificado por uma startup israelense.
O incidente ocorre porque essas IAs interpretam instruções encontradas na internet e executam comandos direcionados a softwares que já foram descontinuados. Esse comportamento possibilita que invasores registrem pacotes falsos e assumam o controle desses 'atalhos', abrindo caminho para a invasão de infraestruturas corporativas.
Conforme detalhado em uma matéria do site ArsTechnica, a vulnerabilidade reside em arquivos denominados llms.txt e llms-full.txt. Esses arquivos têm a função de resumir o conteúdo de um website para que robôs e assistentes virtuais consigam absorver e compreender rapidamente as informações. O risco surge quando certas páginas contêm diretrizes incorretas ou obsoletas; como os agentes de IA não realizam filtragem do que leem, esse texto é processado como uma ordem direta, resultando na execução silenciosa de códigos prejudiciais.
A descoberta foi realizada por uma equipe de especialistas em cibersegurança que investigou o comportamento das IAs ao navegar e consumir dados técnicos online. Os analistas examinaram mais de 6 mil domínios ativos ligados a gigantes da tecnologia e indústrias de defesa.
Durante a revisão de 8.265 arquivos destinados a guiar as ferramentas de IA, a equipe localizou 120 documentos que ordenavam a instalação de pacotes ou ferramentas que não estavam mais disponíveis ou cujos domínios haviam sido abandonados. O levantamento apontou 227 comandos vulneráveis e registrou inúmeros acessos, sendo que o rastreamento indicou que os downloads provinham de assistentes virtuais de código operando com privilégios elevados.
O pesquisador Alon Hertz, um dos membros envolvidos no estudo, explicou que o atual paradigma de confiança das IAs está comprometido. Ele afirmou que as ferramentas tratam a documentação 'como uma verdade incontestável'. Devido à integração dos agentes virtuais em múltiplas camadas de serviços empresariais, a área exposta a ataques cibernéticos cresceu drasticamente, superando as capacidades das proteções existentes.
A dificuldade em prevenir essa intrusão está relacionada a uma limitação técnica inerente às IAs atuais: os grandes modelos de linguagem (LLMs) não conseguem distinguir entre uma mera leitura de texto descritivo e uma ordem de execução. Para a máquina, qualquer dado assimilado se transforma em uma instrução válida. Ao acessar uma página oficial, a inteligência artificial que lê 'instale a ferramenta X' simplesmente acata a ordem sem verificar a integridade desse pacote.
Por essa razão, os sistemas de segurança convencionais, como firewalls e antivírus de rede, não geram alertas. Quando o ataque ocorre, as defesas corporativas percebem apenas uma ferramenta autorizada pela própria companhia acessando um site, simulando o trabalho de um desenvolvedor comum. A falha se origina na fonte da informação, tornando-a invisível aos mecanismos protetores tradicionais. Essa invisibilidade impõe aos profissionais de segurança da informação o desafio de fazer com que as ferramentas cessem a confiança cega em todo o conteúdo processado na web.