Pesquisadores especializados em cibersegurança da Tracebit criaram uma metodologia inovadora para neutralizar inteligências artificiais utilizadas por agentes maliciosos. Esta técnica, denominada “bombardeio contextual”, emprega a injeção de prompts de maneira benéfica para interromper atividades de ataque.
O conceito central do bombardeio contextual reside em utilizar as próprias diretrizes de segurança das IAs contra elas mesmas. Visto que os desenvolvedores estabelecem barreiras rígidas para evitar que chatbots gerem conteúdo ilícito, os pesquisadores exploraram essa vulnerabilidade. A equipe da Tracebit começou a incorporar instruções restritivas dentro de arquivos aparentemente atraentes para criminosos, como senhas e chaves de segurança armazenadas na nuvem.
Um dos cenários testados envolveu comandos solicitando o procedimento detalhado para fabricar antraz, uma arma biológica extremamente perigosa. Quando a IA invasora acessava o sistema e tentava extrair essas informações, ela encontrava o texto proibido. Automaticamente, os mecanismos de segurança inerentes à IA eram acionados, fazendo com que o robô reconhecesse a violação, bloqueasse a operação, ignorasse as ordens do hacker e, consequentemente, se desligasse sozinho.
Andy Smith, cofundador e CEO da Tracebit, descreve este método como a criação de uma falha da qual a ferramenta adversária não possui capacidade de recuperação, resultando na paralisação imediata da invasão.
A eficácia do bombardeio contextual foi validada através de uma série de testes conduzidos contra cinco dos modelos de IA mais avançados disponíveis no mercado: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Em 152 simulações de ataques, a armadilha demonstrou frear as ameaças de forma quase completa.
Os dados fornecidos pela empresa de cibersegurança indicam melhorias significativas: a probabilidade de as IAs obterem acesso total de administrador à conta caiu drasticamente de 57% para meros 5%. Além disso, as invasões completas, caracterizadas pela instalação invisível do hacker no sistema, diminuíram de 36% para apenas 1%, e a chance de a IA progredir em qualquer fase do ataque foi reduzida de 91% para 15%.
Adicionalmente, foi constatado que nenhuma IA invasora conseguiu concluir um ataque sem disparar pelo menos um alerta de segurança na rede. Especificamente, o modelo Opus 4.8, considerado o invasor mais sofisticado do grupo e capaz de alcançar acesso máximo em 93% das tentativas sem a proteção, teve sua taxa de sucesso zerada após a inserção do prompt de defesa.
Anteriormente, os ataques cibernéticos eram realizados por humanos: hackers invadiam sistemas, roubavam dados e exigiam resgate. No entanto, agora há o primeiro caso em que todo o ataque cibernético foi realizado pelo próprio agente de inteligência artificial (IA).
Pesquisadores de segurança nomearam este agente de IA como JadePuffer. Eles afirmam que este é o primeiro caso documentado em que a IA executou sozinha quase todos os aspectos técnicos do ataque usando ransomware. Esta notícia gerou séria preocupação no campo da cibersegurança, pois a capacidade da IA de invadir autonomamente pode levar à criação de ataques mais rápidos e perigosos no futuro.
O ransomware é um software malicioso perigoso. Quando ele entra no sistema de uma empresa ou pessoa física, ele criptografa ou bloqueia arquivos e dados. Depois disso, os invasores exigem um resgate pela devolução dos dados; caso contrário, os dados podem ser perdidos permanentemente ou publicados na internet. Até então, os hackers tomavam decisões em cada etapa desses ataques, mas no caso do JadePuffer, a IA tomou várias decisões sozinha.
De acordo com um estudo da empresa de segurança em nuvem Sysdig, o JadePuffer primeiro penetrou no servidor aproveitando uma vulnerabilidade antiga no sistema de segurança. Em seguida, ele escaneou o sistema sozinho, encontrou chaves de API e outras senhas, obteve acesso a outros servidores e, finalmente, criptografou os dados. Além disso, a IA preparou sozinha um bilhete de resgate. Os pesquisadores notaram um momento impressionante: quando a IA encontrava um problema em alguma etapa, ela corrigia o erro sozinha e continuava o ataque, usando um método subsequente em cerca de 31 segundos, o que eliminava a necessidade de instruções humanas constantes.
Embora relatórios iniciais tenham sugerido que todo o ataque ocorreu sem participação humana, o diretor de pesquisa da Sysdig esclareceu mais tarde que um humano escolheu o alvo, preparou a infraestrutura necessária e forneceu o acesso inicial. A parte técnica do ataque foi então assumida pelo agente de IA. Assim, a IA não agiu totalmente isoladamente, mas realizou muitas tarefas importantes em vez do hacker.
Segundo especialistas, se a IA puder invadir sistemas, encontrar dados, procurar senhas, corrigir erros e exigir resgate autonomamente, tais ataques poderão ser realizados em grande número e em pouco tempo, facilitando a execução de grandes ataques mesmo para pequenos cibercriminosos. Atualmente, o incidente JadePuffer está relacionado aos servidores de empresas, e não há confirmação de ataques a telefones ou notebooks pessoais de usuários comuns. No entanto, se as ferramentas baseadas em IA forem aprimoradas, no futuro bancos, hospitais, instituições governamentais e grandes corporações podem se tornar alvos mais frequentes, o que acarretará consequências negativas para os cidadãos comuns.
Especialistas em cibersegurança aconselham empresas e instituições a atualizarem seus softwares e servidores em tempo hábil. É fundamental eliminar imediatamente vulnerabilidades desatualizadas, visto que o JadePuffer utilizou uma fraqueza preexistente. Além disso, aumentou significativamente a importância do uso de autenticação multifator, backup regular e monitoramento contínuo de segurança.
