O desenvolvimento de modelos de inteligência artificial mais poderosos é apenas metade da tarefa; a outra metade consiste em garantir sua disponibilidade para operação em grande escala. A empresa DeepSeek anunciou a atualização V4.1 Flash, focada em acelerar a execução de tarefas e reduzir o comprimento das saídas, além de lançar um framework de código aberto para um processo de inferência mais eficiente.
Em 17 de outubro, a DeepSeek lançou o modelo V4.1-Flash-1017, que é uma atualização do seu modelo V4.1 Flash. De acordo com os resultados de teste publicados pela empresa, foram alcançados aprimoramentos em várias áreas, incluindo tarefas de codificação e tarefas de agente. Por exemplo, a pontuação Terminal-Bench 4.0 aumentou de 31.2 para 42.3, e o DeepSWE v1.1 cresceu de 74.2 para 77.0.
No gráfico de custo-benefício para o benchmark de codificação DeepSWE v1.1, mostra-se que o V4.1 Flash-1017 atinge uma taxa Pass@1 de 77% com um custo de cerca de US$ 0,20 por tarefa, superando vários modelos que exigem custos operacionais significativamente maiores. Em configurações mais baixas, variando de US$ 0,11 a US$ 0,14 por tarefa, o modelo ainda demonstra resultados na faixa de 72–73%.
A DeepSeek também relata a redução no tempo de execução das tarefas e a diminuição do volume de saída, o que permite reduzir os custos de inferência, pois o modelo realiza o mesmo trabalho usando menos tokens e menos tempo computacional. Esta atualização foi otimizada para frameworks de agentes, como DeepSeek Harness, Tencent CodeBuddy e WorkBuddy.
No entanto, deve-se notar que os números apresentados são, em primeiro lugar, resultados de testes internos da empresa, e diferentes testes utilizam diferentes configurações de avaliação e frameworks, o que não garante o desempenho idêntico do modelo em todas as aplicações.
Um sinal específico veio da tabela de classificação Agent Arena da Arena. De acordo com um relatório da ITHome de 20 de outubro, o modelo atualizado ocupou o primeiro lugar entre os modelos de pesos abertos e o 11º lugar no geral, com base em 7498 sessões de uso real. O custo médio foi de aproximadamente US$ 0,18 por tarefa, embora diferentes páginas da tabela de classificação exibissem valores entre US$ 0,18 e US$ 0,19.
Em 20 de outubro, a DeepSeek apresentou o DeepInfer, seu framework interno de inferência, bem como a biblioteca deepseek-recipe para processamento de requisições de API, preparação de prompts para o modelo e análise de resultados. Os frameworks de inferência definem como os modelos utilizam recursos computacionais para processar solicitações. Sua arquitetura afeta a latência, o throughput e o hardware necessário para atender aos usuários, tornando-os um fator importante, embora menos visível, nos custos operacionais de IA.
A DeepSeek descreve o DeepInfer como um framework que suporta seus serviços de produção em larga escala. O lançamento de código aberto inclui núcleos de computação otimizados, agendamento assíncrono e suporte a inferência distribuída e decodificação especulativa, conforme a documentação README e de implantação. Atualmente, ele suporta GPUs Nvidia SM100 e NPU Huawei Ascend 950, sendo o DeepSeek V4.1 Flash listado como modelo suportado.
Este lançamento não representa um stack de inferência completo. A documentação da DeepSeek indica que um serviço completo requer um sistema de KV-cache, desagregação de prefill/decodificação e balanceamento de carga entre réplicas com paralelismo de dados, que não são totalmente cobertos por este lançamento, embora grande parte da funcionalidade principal de desagregação já esteja implementada.
O fornecimento de código aberto dá aos desenvolvedores acesso a parte da tecnologia de serviço dos modelos DeepSeek. A utilidade prática dependerá de seu hardware, cargas de trabalho e esforços de engenharia adicionais necessários para a implementação.
Ao lançar o V4.1 Flash em setembro, a DeepSeek relatou uma redução de um quarto nas exigências de memória KV-cache e de um oitavo nas necessidades de armazenamento SSD em comparação com a geração anterior. A empresa também oferece tarifas de API em horários fora de pico com metade do preço da tarifa de pico.
Em outubro, a DeepSeek abriu suas APIs Search e Fetch para desenvolvedores, estabelecendo um preço de 5 yuans a cada 1000 requisições bem-sucedidas. Chamadas através de integrações DeepSeek API com Claude Code e Codex são temporariamente gratuitas, e a cobrança por solicitação está programada para 1º de novembro.
Essas conquistas demonstram que a DeepSeek está trabalhando para aumentar a eficiência tanto no nível do modelo quanto no nível da infraestrutura, ao mesmo tempo que expande o conjunto de ferramentas para agentes de IA. Se essas melhorias se traduzirão em desempenho confiável e redução de custos gerais dependerá das cargas de trabalho reais, da implementação e da manutenção.
