A Moonshot AI lançou oficialmente o modelo Kimi K3 de código aberto. Este modelo possui 2,8 trilhões de parâmetros MoE, inclui 896 especialistas roteados e suporta 16 especialistas ativos por token, além de ter uma janela de contexto de 1 milhão de tokens. Além disso, foram lançadas as ferramentas de infraestrutura MoonEP, FlashKDA e AgentEnv.
Especificações Técnicas e Melhorias do Modelo
O lançamento do Kimi K3 ocorreu em 27 de julho. O modelo tornou-se o maior do mundo entre modelos de pesos abertos. Em comparação com a geração anterior, K2.5, a escala de parâmetros do K3 aumentou aproximadamente três vezes, e a eficiência computacional aumentou 2,5 vezes graças ao uso das tecnologias Kimi Delta Attention, Attention Residuals e MoonEP, permitindo operar em condições de recursos computacionais limitados.
Inovações Arquitetônicas
O relatório técnico revela várias novidades arquitetônicas. A estrutura híbrida de atenção KDA combinada com Gated MLA une a atenção linear para processamento eficiente de contexto longo e a atenção latente multi-cabeça com portões para obter uma representação local de alta qualidade. O mecanismo de roteamento Stable LatentMoE resolve o problema de colapso de especialistas, frequentemente encontrado no treinamento de grandes modelos MoE, estabilizando a dinâmica do gradiente do roteador. Além disso, o esquema de treinamento do codificador de visão MoonViT-V2 garante interpretação multimodal nativa sem a necessidade de adaptadores visuais e de linguagem separados. O modelo foi treinado e testado em tarefas de raciocínio universal, agentes e codificação, demonstrando a amplitude das capacidades do K3 além das tarefas puramente linguísticas.
Soluções de Infraestrutura
Além do próprio modelo, três ferramentas de infraestrutura foram lançadas. O MoonEP é uma biblioteca de comunicação de alto desempenho projetada para treinamento MoE em larga escala, que elimina o gargalo de comunicação ponto a ponto que limita a escalabilidade do MoE. O FlashKDA fornece um núcleo de computação de alto desempenho para Kimi Delta Attention; de acordo com os benchmarks, em uma GPU H20, ele oferece uma melhoria na velocidade de pré-enchimento de 1,72 para 2,22 vezes em comparação com a versão base flash-linear-attention. O AgentEnv é um sistema de sandbox para agentes, desenvolvido usando KVCache.ai, que suporta funções rápidas de snapshot, restauração e fork para ambientes de treinamento de agentes em larga escala. Esses lançamentos de infraestrutura reduzem a barreira para a reprodução e o desenvolvimento futuro de modelos da classe K3.
Implicações Ecossistêmicas do Lançamento
O lançamento de código aberto tem implicações significativas para o ecossistema. O K3 corresponde ou supera modelos avançados fechados, como GPT-5.6 e Claude Fable 5, em vários testes específicos, especialmente na geração de código frontend. Ao mesmo tempo, o custo de uso do K3 via API é 40% menor do que o do Claude e 70% menor do que o do Fable. A licença de pesos abertos permite implantação local e o desenvolvimento de aplicativos próprios sem dependência de API. No entanto, devido à escala de 2,8 trilhões de parâmetros, mesmo a implementação local exige hardware significativo — pelo menos GPUs de classe 10 GB300 apenas para carregar o modelo, tornando os custos de infraestrutura de inferência o principal fator no deploy, em vez da taxa de API.
Reação do Mercado e Limitações
Este lançamento desencadeou uma reação em cadeia no ecossistema. A plataforma Qianwen AI da Alibaba Cloud anunciou a disponibilidade do K3. A Huawei anunciou a adaptação do Ascend 0-day para K3, sendo este o primeiro caso de lançamento de um modelo de nível de 3 trilhões em hardware doméstico. A comunidade de código aberto obteve acesso aos pesos do modelo, que anteriormente exigiam investimentos de centenas de milhões para reprodução. A Moonshot AI declarou que a iniciativa de código aberto visa promover o ecossistema de modelos de pesos abertos, reduzindo as barreiras de desenvolvimento e implantação para uma comunidade de IA mais ampla. No entanto, pouco depois, foi anunciado que o K3 suspendeu novas assinaturas de usuários devido a limitações de capacidade computacional, destacando a contradição entre os ideais de código aberto e a realidade de manter um modelo de 2,8 trilhões de parâmetros em escala.