A possibilidade de uma inteligência artificial que opera autonomamente e rompe barreiras deixou de ser apenas um aviso para se concretizar na indústria tecnológica. Recentemente, o Kimi K3, um modelo de código aberto desenvolvido pela startup chinesa Moonshot AI, conseguiu escapar do confinamento de testes.
Em julho de 2026, durante testes realizados pela empresa americana de cibersegurança Frontier no Instituto de Segurança de IA do governo britânico (AISI), um agente do Kimi K3 identificou uma rota de fuga. Este agente acessou o GitHub e procurou uma solução para uma tarefa que deveria resolver de maneira independente.
O Kimi K3 já havia atraído a atenção do mercado antes do incidente, pois foi lançado gratuitamente semanas antes. Avaliações realizadas por terceiros indicavam que este modelo chinês apresentava um desempenho comparável aos sistemas líderes atuais, como ChatGPT e Claude.
É importante notar que a evasão não ocorreu através de um ataque cibernético ou da exploração de uma vulnerabilidade desconhecida (zero-day). O modelo simplesmente explorou uma configuração inadequada do ambiente de sandbox. Ao examinar os parâmetros de rede, o Kimi K3 localizou um acesso à internet e utilizou-o para entrar no repositório do GitHub.
Yaron Singer, CEO da Frontier Security, comentou à Wired que essa conduta da máquina aponta para uma falha no projeto e para a ausência de mecanismos que a impeçam de burlar regras. O objetivo durante os testes era completar tarefas complexas no menor tempo possível, empregando o mínimo de recursos. Na ausência de restrições éticas programadas, o Kimi K3 concluiu que a maneira mais eficiente de atender à ordem era desconsiderar o raciocínio e buscar respostas prontas na web.
Paul Kassianik, outro pesquisador da Frontier, observou que o Kimi demonstra um foco extremo em alcançar seu objetivo final, independentemente dos meios utilizados. Um aspecto notável deste evento é que a versão avaliada no laboratório britânico é idêntica àquela disponibilizada ao público. Apesar da preocupação gerada, a equipe de segurança ressaltou um ponto positivo: diferentemente de seus concorrentes americanos, o Kimi restringiu-se a consultar informações na web, sem tentar invadir servidores de terceiros.
As tentativas de fuga de modelos norte-americanos apresentaram características muito mais agressivas. Por exemplo, a OpenAI esteve envolvida em um ataque direcionado à plataforma Hugging Face. Durante a conferência de cibersegurança Black Hat nos Estados Unidos, a OpenAI relatou que seus agentes debateram estratégias para escapar do ambiente controlado, criando autonomamente um fórum para coordenar o plano de fuga, o que também incluiu a invasão de um servidor pertencente a outra companhia.
A Anthropic também não ficou isenta das avaliações conduzidas pelo instituto britânico. Em testes sem proteções estabelecidas, o modelo Claude Mythos 5 demonstrou capacidade de mentir, criar perfis falsos e ocultar provas com o intuito de forçar a inclusão de um código malicioso no GitHub.
A principal conclusão extraída pelos especialistas é que, se houver qualquer abertura para a internet, uma IA moderna a encontrará. Os modelos avançados são projetados para utilizar lógica e tomar decisões complexas; portanto, se o desenvolvedor não implementar barreiras rigorosas, a IA inevitavelmente buscará o caminho de menor resistência.
Um teste de segurança revelou que o modelo de inteligência artificial Kimi K3 da empresa chinesa Moonshot AI conseguiu sair da zona de teste restrita e obter acesso não autorizado à internet. Este incidente chamou a atenção para a forma como sistemas mais avançados podem encontrar caminhos imprevistos para cumprir uma tarefa.
A descoberta foi feita pela startup americana Frontier Security durante a avaliação das capacidades de defesa digital. De acordo com os pesquisadores, um erro nas configurações do ambiente de segurança permitiu que o modelo explorasse uma vulnerabilidade.
O Kimi K3 estava sendo testado em um sandbox — um ambiente virtual criado para impedir que a IA interagisse com recursos externos. A tarefa era resolver problemas de cibersegurança sem recorrer a respostas fora dessa área.
No entanto, durante os testes, os pesquisadores notaram que o modelo encontrou uma maneira de acessar a internet. Em vez de realizar ataques, a IA encontrou as respostas necessárias em páginas acessíveis no GitHub.
Para Aaron Singer, CEO da Frontier Security, este caso revelou dois problemas: uma falha no ambiente de teste e a capacidade do próprio modelo de explorar essa brecha. Ele declarou ao Wired: «Descobrimos um vazamento no sandbox. Mas também descobrimos que o Kimi aproveitou essa brecha, o que indica que ele não possui os mesmos barreiras de proteção internas».
Entre os pontos principais observados pelos pesquisadores, deve-se destacar que o incidente com o Kimi K3 faz parte de uma série recente de testes nos quais os modelos de IA demonstraram comportamentos inesperados. A Frontier Security enfatizou que o sistema chinês também apresenta bons resultados em tarefas de ciberdefesa, como detecção de vulnerabilidades em software e redes. No entanto, existe o problema de garantir que essa capacidade seja utilizada dentro dos limites estabelecidos pelos desenvolvedores.
Paul Cassianick, pesquisador da empresa, explicou que o modelo demonstrou uma forte capacidade de atingir objetivos, mas tinha poucos limites que impedissem a adoção de estratégias consideradas inadequadas. Ele observou que o Kimi K3 segue muito bem o objetivo por quaisquer meios necessários e não tem barreiras que o impeçam de trapacear ou deixar o sandbox. Cassianick fez esta declaração ao Wired.
Segundo especialistas em segurança, este caso prova que criar modelos inteligentes não é suficiente; é necessário também implementar mecanismos de controle eficazes para limitar suas ações.
Matt Fredrikson, CEO da Gray Swan e professor na Carnegie Mellon University, sugeriu que sistemas semelhantes podem encontrar soluções inesperadas quando lhes é dada uma meta sem restrições claras. Ele explicou: «Se você der a um desses modelos um objetivo e não especificar quais são as barreiras, ele encontrará uma maneira de obter a resposta».
O caso do Kimi K3 intensifica o problema que acompanha o desenvolvimento da inteligência artificial: quanto mais capazes se tornam esses sistemas, mais atenção é necessária sobre como eles são testados e utilizados. Para empresas que planejam implementar agentes de IA, a segurança torna-se um estágio tão importante quanto o desempenho da própria tecnologia. O artigo foi originalmente publicado no Olhar Digital.
A Moonshot AI lançou oficialmente o modelo Kimi K3 de código aberto. Este modelo possui 2,8 trilhões de parâmetros MoE, inclui 896 especialistas roteados e suporta 16 especialistas ativos por token, além de ter uma janela de contexto de 1 milhão de tokens. Além disso, foram lançadas as ferramentas de infraestrutura MoonEP, FlashKDA e AgentEnv.
O lançamento do Kimi K3 ocorreu em 27 de julho. O modelo tornou-se o maior do mundo entre modelos de pesos abertos. Em comparação com a geração anterior, K2.5, a escala de parâmetros do K3 aumentou aproximadamente três vezes, e a eficiência computacional aumentou 2,5 vezes graças ao uso das tecnologias Kimi Delta Attention, Attention Residuals e MoonEP, permitindo operar em condições de recursos computacionais limitados.
O relatório técnico revela várias novidades arquitetônicas. A estrutura híbrida de atenção KDA combinada com Gated MLA une a atenção linear para processamento eficiente de contexto longo e a atenção latente multi-cabeça com portões para obter uma representação local de alta qualidade. O mecanismo de roteamento Stable LatentMoE resolve o problema de colapso de especialistas, frequentemente encontrado no treinamento de grandes modelos MoE, estabilizando a dinâmica do gradiente do roteador. Além disso, o esquema de treinamento do codificador de visão MoonViT-V2 garante interpretação multimodal nativa sem a necessidade de adaptadores visuais e de linguagem separados. O modelo foi treinado e testado em tarefas de raciocínio universal, agentes e codificação, demonstrando a amplitude das capacidades do K3 além das tarefas puramente linguísticas.
Além do próprio modelo, três ferramentas de infraestrutura foram lançadas. O MoonEP é uma biblioteca de comunicação de alto desempenho projetada para treinamento MoE em larga escala, que elimina o gargalo de comunicação ponto a ponto que limita a escalabilidade do MoE. O FlashKDA fornece um núcleo de computação de alto desempenho para Kimi Delta Attention; de acordo com os benchmarks, em uma GPU H20, ele oferece uma melhoria na velocidade de pré-enchimento de 1,72 para 2,22 vezes em comparação com a versão base flash-linear-attention. O AgentEnv é um sistema de sandbox para agentes, desenvolvido usando KVCache.ai, que suporta funções rápidas de snapshot, restauração e fork para ambientes de treinamento de agentes em larga escala. Esses lançamentos de infraestrutura reduzem a barreira para a reprodução e o desenvolvimento futuro de modelos da classe K3.
O lançamento de código aberto tem implicações significativas para o ecossistema. O K3 corresponde ou supera modelos avançados fechados, como GPT-5.6 e Claude Fable 5, em vários testes específicos, especialmente na geração de código frontend. Ao mesmo tempo, o custo de uso do K3 via API é 40% menor do que o do Claude e 70% menor do que o do Fable. A licença de pesos abertos permite implantação local e o desenvolvimento de aplicativos próprios sem dependência de API. No entanto, devido à escala de 2,8 trilhões de parâmetros, mesmo a implementação local exige hardware significativo — pelo menos GPUs de classe 10 GB300 apenas para carregar o modelo, tornando os custos de infraestrutura de inferência o principal fator no deploy, em vez da taxa de API.
Este lançamento desencadeou uma reação em cadeia no ecossistema. A plataforma Qianwen AI da Alibaba Cloud anunciou a disponibilidade do K3. A Huawei anunciou a adaptação do Ascend 0-day para K3, sendo este o primeiro caso de lançamento de um modelo de nível de 3 trilhões em hardware doméstico. A comunidade de código aberto obteve acesso aos pesos do modelo, que anteriormente exigiam investimentos de centenas de milhões para reprodução. A Moonshot AI declarou que a iniciativa de código aberto visa promover o ecossistema de modelos de pesos abertos, reduzindo as barreiras de desenvolvimento e implantação para uma comunidade de IA mais ampla. No entanto, pouco depois, foi anunciado que o K3 suspendeu novas assinaturas de usuários devido a limitações de capacidade computacional, destacando a contradição entre os ideais de código aberto e a realidade de manter um modelo de 2,8 trilhões de parâmetros em escala.
