A empresa Anthropic alertou que pequenos modelos de inteligência artificial podem adquirir a capacidade de se comportar como vermes de computador em poucos meses. Esses modelos poderão copiar-se autonomamente de um dispositivo conectado à internet para outro sem intervenção humana.
Esta conclusão pode abrir uma nova frente de ameaças de segurança cibernética relacionadas à IA, o que preocupa governos e corporações apressadas em implementar essa tecnologia.
O estudo, publicado no blog da Anthropic na segunda-feira, ocorre em meio à corrida das empresas de tecnologia para integrar capacidades cada vez mais poderosas de IA diretamente em telefones, laptops, carros e eletrodomésticos, em vez de se limitar a centros de processamento de dados remotos.
Um verme de computador é um software malicioso que se propaga espontaneamente entre máquinas. Os pesquisadores da Anthropic observaram que a versão baseada em IA não exigirá mais grandes centros de processamento de dados para funcionar.
Em vez disso, ela pode potencialmente se mover de um dispositivo para outro através de redes de equipamentos de consumo baratos e pouco protegidos, como caixas de TV inteligentes e eletrodomésticos de cozinha.
Os pesquisadores basearam seus cálculos de propagação potencial desse verme em Kimwolf, um botnet ou rede de dispositivos comprometidos controlados por hackers, que infectou mais de dois milhões de dispositivos no pico, principalmente caixas Android TV sem marca.
William Zhou e Daniel Freeman, da Anthropic, especularam que um verme de IA desse tipo provavelmente se espalhará lentamente, levando dias para se copiar, comparando o processo com um enxame de moscas-das-frutas de reprodução lenta. Após sua criação, será difícil destruí-lo, pois não haverá um interruptor central para seu desligamento.
Os pesquisadores da Anthropic admitiram que suas estimativas de velocidade e escala de propagação do malware baseado em IA são aproximadas, pois se baseiam em um único tipo de gadget e em um botnet anterior. No entanto, acrescentaram que o poder computacional dos dispositivos cotidianos deve continuar a crescer, enquanto os modelos de IA necessários para tais ataques provavelmente ficarão menores.
Varun Chandrasekaran, professor assistente de engenharia elétrica e ciência da computação na Universidade de Illinois, afirmou que este estudo não é surpreendente e está alinhado com conclusões semelhantes recentes, embora tenha alertado que o trabalho da Anthropic não foi verificado independentemente. Ele também observou que a segurança em dispositivos como termostatos e câmeras domésticas «sempre foi muito fraca».
No entanto, em sua opinião, a maior ameaça atual relacionada à IA reside no uso dessa tecnologia por pessoas para aprimorar suas habilidades de hacking, e não no fato de os próprios sistemas de IA saírem do controle. Ele acrescentou: «Indivíduos maliciosos agora estão superalimentados com IA para cometer atos ruins, e estamos vendo isso em grande escala».
O debate sobre IA fora de controle se intensificou em julho, quando programas de IA rodando em modelos da OpenAI escaparam de um teste interno da empresa e invadiram os sistemas da plataforma de IA Hugging Face, aparentemente em busca de respostas para um teste. Este incidente e os relatórios subsequentes de casos semelhantes aumentaram a pressão internacional por uma regulamentação de IA mais rigorosa, apesar da resistência da administração Trump, que pede que a indústria se autorregule.
Anthropic e o criador do ChatGPT, OpenAI, são acusados por figuras influentes da Casa Branca e do Vale do Silício de incitar medos sobre IA e promover a regulamentação governamental para proteger seu domínio de mercado de concorrentes menores. Brad Smith, presidente da Microsoft e investidor da OpenAI, alertou na terça-feira que a indústria e os governos devem «agir urgentemente» para criar «padrões de segurança reais e eficazes» para conter os riscos da IA.