Japão implementará inteligência artificial para detectar vulnerabilidades de rede e combater hackers

Com o desenvolvimento da inteligência artificial (IA), dispositivos conectados à internet e que trocam dados na chamada 'Internet das Coisas' (IoT) podem se tornar uma fonte de problemas. De acordo com um relatório da Anthropic, publicado em outubro, software malicioso baseado em IA pode ser instalado nesses dispositivos e se propagar autonomamente.

Vírus de computador que se movem sozinhos de um dispositivo para outro são conhecidos como 'worms'. Eles seguem um plano predefinido, explorando vulnerabilidades de segurança conhecidas ou pontos de acesso com proteção insuficiente. Geralmente, a solução para este problema reside na correção de erros e no fechamento de brechas na segurança. No entanto, no caso dos 'worms' baseados em IA, a situação se torna significativamente mais complexa e perigosa.

Isso ocorre porque esse tipo mais avançado de 'worm' é capaz de resolver problemas e se adaptar a diferentes tipos de dispositivos por conta própria. Pesquisadores da Anthropic, desenvolvedora do Claude, demonstraram que os aplicativos de IA podem funcionar sem a necessidade de usar um grande centro de processamento de dados.

Em um ambiente de teste controlado, os pesquisadores criaram simulações de oito dispositivos Android. O modelo de IA testado foi instalado em um desses dispositivos, depois copiado dele e infectou os outros. Em quatro de cinco tentativas, o modelo atingiu todos os oito alvos, e em uma, infectou sete.

Se tal modelo de IA fosse combinado com software malicioso, o 'worm' poderia aprender a contornar as medidas de segurança. Estima-se que isso levaria de um a dois dias, segundo os desenvolvedores da Anthropic. Além disso, a IA pode potencialmente agrupar dispositivos infectados em uma rede de bots.

Embora um dispositivo infectado tenha capacidades computacionais limitadas, quanto mais dispositivos forem infectados, mais rápido o 'worm' poderá se espalhar. Os dispositivos conectados podem teoricamente ser desconectados da rede e as vulnerabilidades de segurança podem ser corrigidas. No entanto, a estrutura descentralizada desse software malicioso dificultará muito sua localização.

A Anthropic descreve este tipo de infecção como um 'mofo digital', que cresce lentamente. A empresa acredita que modelos de IA menores poderão atingir esse nível de capacidade de propagação ainda em 2026.

A inteligência artificial está acelerando o processo de descoberta de vulnerabilidades em software, reduzindo o tempo necessário para corrigi-las. Especialistas em cibersegurança entrevistados pela Reuters preveem novas interrupções em serviços digitais à medida que empresas e governos tentam se preparar para a exploração dessas falhas.

Um estudo realizado pela VulnCheck e programado para publicação nos próximos dias mostra que o número de vulnerabilidades digitais descobertas dobrou em comparação com o ano anterior. Problemas registrados esta semana em sites governamentais na Europa demonstram a pressão que tais descobertas podem causar.

As interrupções começaram na quarta-feira após a descoberta de vulnerabilidades no PHP, uma linguagem de programação usada em muitas partes da internet. Para prevenir ataques, os operadores se apressaram em corrigir seus sistemas. Alguns desligaram temporariamente os sites por não poderem aplicar as atualizações antes de possíveis invasões.

Essa corrida por correções ocorreu em uma semana já marcada por outros problemas de segurança. Foram reveladas vulnerabilidades no Node.js e Plex, bem como incidentes relacionados às plataformas de inteligência artificial LiteLLM e de desenvolvimento Railway. O órgão certificador indiano eMudhra também chamou a atenção pelo uso de uma chave criptográfica extremamente fraca, o que poderia colocar em risco os usuários da internet.

Matthew Prince, CEO da Cloudflare, disse à Reuters que está ciente de outras vulnerabilidades sérias em software vital para o funcionamento da rede. Segundo ele, o setor enfrentará meses difíceis pela frente. Ele observou: «Acho que teremos alguns anos em que parecerá que o céu está caindo toda semana».

Anteriormente, a busca por vulnerabilidades em programas complexos exigia conhecimento especializado. O desenvolvimento de ferramentas para explorá-las podia levar semanas ou meses, dando tempo aos responsáveis pelos sistemas para preparar correções e distribuir atualizações. No entanto, a inteligência artificial está encurtando esse período. Os modelos são capazes de analisar continuamente grandes bases de código, encontrar problemas e ajudar a desenvolver ferramentas de exploração em apenas algumas horas.

Shane Fry, CTO da RunSafe Security, enfatizou a mudança no ritmo desse processo. Ele declarou: «O que está mudando fundamental e inegavelmente é o tempo necessário tanto para descobrir vulnerabilidades quanto para que os adversários consigam usá-las».

Neste cenário, as equipes de segurança precisam lidar com tarefas que vão além da simples identificação de erros no código. Os especialistas estão preocupados com a redução do tempo de resposta, mas não há consenso sobre se a descoberta acelerada de vulnerabilidades levará a uma onda de ataques bem-sucedidos.

Daniel Steinberg, desenvolvedor principal da ferramenta de transferência de arquivos curl, observa que algumas vulnerabilidades encontradas por modelos de IA são complexas e difíceis de explorar. Rami Rahman, da empresa de segurança ArmorCode, também ressalta que a publicação de mais vulnerabilidades não significa necessariamente um aumento no número de ataques bem-sucedidos. O caso do PHP serve como exemplo dessa diferença: a empresa de inteligência de ameaças Hunt.io descobriu tentativas agressivas de exploração, mas relatou que, até as 14h de quinta-feira no leste dos EUA, os invasores monitorados aparentemente ainda não conseguiram desenvolver uma ferramenta funcional para usar essa vulnerabilidade.

Prince relatou sinais de invasão relacionados à vulnerabilidade. No entanto, ele acredita que a descoberta acelerada de problemas pode trazer benefícios a longo prazo, permitindo a correção de erros que permaneceram ocultos por anos.