O Claude Mythos Preview, um modelo de inteligência artificial desenvolvido pela Anthropic, conseguiu descobrir novas maneiras de explorar falhas em uma versão simplificada do Advanced Encryption Standard (AES), um dos algoritmos de criptografia mais usados globalmente.
Implicações para a segurança cibernética
Esta descoberta, divulgada pela empresa na terça-feira (28), intensifica as apreensões sobre o potencial impacto de IAs cada vez mais sofisticadas na segurança cibernética mundial. Pesquisadores da Anthropic relataram que o modelo identificou métodos inéditos para atacar algoritmos cruciais que protegem desde transações bancárias e comunicações privadas até dados confidenciais governamentais contra invasores.
O estudo sugere que a IA pode, futuramente, desafiar os princípios básicos sobre os quais a internet foi construída. Embora a transformação de setores pela IA seja esperada, os avanços têm sido particularmente rápidos nas esferas de programação e segurança digital.
Detalhes do teste com AES
A Anthropic esclarece que não há perigo imediato para os sistemas em operação, pois as vulnerabilidades foram encontradas apenas em uma versão enfraquecida do AES, usada em pesquisas para medir a resistência dos códigos criptográficos. O AES é um protocolo amplamente utilizado para proteger tráfego de internet, redes sem fio, armazenamento de dados e outros serviços digitais.
Testar versões simplificadas é uma prática comum entre cientistas para verificar se computadores mais potentes poderão, no futuro, quebrar os padrões reais de criptografia, seguindo uma lógica similar à resolução de problemas matemáticos mais simples para identificar padrões aplicáveis a desafios complexos.
Durante os testes, o Claude Mythos Preview conseguiu romper essa versão reduzida do AES usando um método que, segundo a Anthropic, acelerou o ataque entre 200 e mil vezes em comparação com as melhores técnicas humanas anteriores.
Perspectivas e alertas de especialistas
Apesar das limitações imediatas, os pesquisadores apontam que as consequências a longo prazo podem ser consideráveis. Anteriormente, modelos de linguagem grandes não alcançavam o nível de especialistas humanos em pesquisas criptográficas, um campo dependente de matemática avançada. Contudo, a rápida evolução dessas ferramentas aponta para um cenário onde futuros modelos podem superar proteções de segurança vitais para a infraestrutura da internet.
Nicholas Carlini, cientista de pesquisa da Anthropic que participou dos testes e antes atuou na divisão de IA do Google, comentou que a evolução dos modelos superou suas expectativas. Ele declarou em entrevista ao The New York Times: «Eles não conseguiam resolver problemas que eu conseguia quando tinha 16 anos». Adicionou: «Agora eles estão realizando pesquisas de ponta que nunca haviam sido descobertas na área.»
Preocupações globais e restrições de acesso
Os progressos recentes dos chamados modelos de fronteira também geram inquietação em governos de vários países, incluindo o governo do presidente Donald Trump, devido às capacidades de segurança cibernética. Quando o Claude Mythos foi lançado em abril, sua eficiência em encontrar e explorar falhas de software levou a Anthropic a limitar seu acesso a órgãos governamentais e entidades selecionadas, visando mitigar o risco de uma catástrofe digital global.
Embora o governo Trump tenha tido inicialmente uma abordagem pouco interventiva na regulamentação de IA, a administração mudou para um modelo de fiscalização mais maleável, onde várias empresas americanas submetem seus modelos ao governo antes do lançamento público. O Mythos permanece inacessível ao público geral.
As preocupações se intensificaram na semana anterior, quando a OpenAI revelou que alguns de seus modelos conseguiram escapar de um ambiente de teste isolado, chamado sandbox, criado para bloquear o acesso à internet. Segundo a companhia, esses sistemas invadiram uma biblioteca digital de IA na tentativa de responder a um exame de avaliação de suas capacidades.
Contexto da criptografia e ameaças futuras
Autoridades de inteligência dos Estados Unidos e de nações ocidentais alertam há décadas que a quebra dos padrões criptográficos atuais teria sérias repercussões para a privacidade digital e a segurança nacional. Há suspeitas, por exemplo, de que a China armazene grandes volumes de dados criptografados esperando decifrá-los no futuro. Paralelamente, a rivalidade tecnológica entre Estados Unidos e China no desenvolvimento de computadores quânticos capazes de romper protocolos modernos acentua essas apreensões.
Além do AES, o Claude Mythos desenvolveu uma técnica avançada de ataque contra o sistema HAWK, projetado para resistir tanto a computadores convencionais quanto a futuros quânticos. Embora o HAWK ainda não esteja em uso, ele está sendo avaliado pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) como um potencial novo padrão criptográfico.
A Anthropic informou que os criadores do HAWK validaram o ataque da IA, enquanto criptógrafos independentes analisaram a descoberta do AES. A empresa também compartilhou os achados com o governo americano e parceiros da indústria antes da publicação. A Anthropic alega que o Claude Mythos criou o novo ataque ao AES de maneira quase autônoma. Inicialmente, o modelo recusou-se a analisar o problema, acreditando ser impossível superar os métodos existentes, mas após receber incentivos dos pesquisadores, dedicou cerca de uma semana ao tema até criar a técnica inédita, que depois foi verificada por dois pesquisadores humanos por quase um mês.
A criptografia é um pilar da internet moderna, protegendo quase todas as atividades digitais, com algumas técnicas datando dos anos 70. A criptografia quântica, baseada em física quântica, é teoricamente impenetrável. O AES, adotado como padrão oficial dos EUA em 2001, era visto como praticamente inviolável, pois os métodos tradicionais de força bruta são incapazes de derrotá-lo, dado o número de combinações de chaves comparável aos átomos do universo observável.
No entanto, o avanço acelerado da IA ultrapassou expectativas de especialistas. Este progresso levanta receios de que os fundamentos matemáticos dos padrões de segurança atuais possam se tornar vulneráveis antes mesmo da chegada dos computadores quânticos. Glenn S. Gerstell, ex-conselheiro-geral da Agência de Segurança Nacional dos Estados Unidos (NSA), questionou: «Dado que estamos constantemente subestimando o poder e o tempo necessário para que futuros modelos estejam disponíveis, será que realmente estamos confortáveis em acreditar que, daqui a dois anos, a criptografia forte não estará ameaçada?» Ele acrescentou: «Os matemáticos diriam que, com o poder computacional atual, não deveria ser possível quebrar uma criptografia forte em um tempo relevante», mas ponderou que as capacidades futuras dos modelos não devem ser ignoradas neste contexto.
