Meituan lança LongCat-2.5, um modelo multimodal com 1,6 trilhão de parâmetros para codificação de agentes de longo alcance
Leia mais
Pandaily
pandaily.com

Meituan lança LongCat-2.5, um modelo multimodal com 1,6 trilhão de parâmetros para codificação de agentes de longo alcance

A equipe do LongCat da Meituan apresentou o modelo LongCat-2.5 em 2 de novembro. Este modelo é um sistema nativo multimodal desenvolvido para executar tarefas de agentes de longo alcance. De acordo com o IT Home, o modelo possui um total de 1,6 trilhão de parâmetros e ativa cerca de 48 bilhões deles ao processar cada token.

O LongCat-2.5 baseia-se na versão anterior LongCat-2.0 e melhora significativamente dois aspectos chave: a compreensão nativa de dados visuais e a capacidade de codificação de agentes. O lançamento oficial ocorreu após a versão preliminar LongCat-2.5-Preview, que esteve disponível na plataforma LongCat API desde 25 de setembro.

Melhorias no treinamento e trabalho com tarefas

Grande parte do processo de treinamento foi focada em tarefas de longa duração. A Meituan informou que adicionou mais dados de trajetórias de longo alcance ao treinamento de sequências longas e utilizou aprendizado por reforço em larga escala de longo alcance para aprimorar o trabalho de engenharia ponta a ponta. Isso inclui o desenvolvimento dentro de grandes bases de código complexas e a criação de projetos completos.

A equipe continua a expandir a síntese de dados, construir ambientes e realizar treinamento misto em vários mecanismos de agentes. Além disso, eles transformam trajetórias de falhas de agentes reais em tarefas reprodutíveis e verificáveis para treinamento, permitindo enriquecer continuamente o banco de dados em áreas onde o modelo demonstra fraquezas.

Compreensão visual e infraestrutura

Em termos de processamento de imagens, o LongCat-2.5 representa sinais visuais como tokens discretos de múltiplos níveis. Graças a isso, a maior parte do modelo processa imagens e texto em uma forma tokenizada unificada. A Meituan afirma que a combinação dessa visão nativa com a codificação de agentes torna o modelo forte em codificação visual, permitindo-lhe lidar com design criativo e tarefas 3D.

A infraestrutura que suporta o lançamento do modelo opera em capacidades computacionais domésticas. A Meituan otimizou o treinamento de contexto longo e a inferência W4A4, que utiliza pesos de 4 bits e ativações de 4 bits, em chips internos. O trabalho no alinhamento numérico entre treinamento e inferência, bem como a otimização da implantação de contexto longo, garante o funcionamento eficiente do aprendizado por reforço em larga escala de longo alcance.

Resultados de testes e disponibilidade

De acordo com a tabela de benchmarks apresentada pela própria Meituan, o LongCat-2.5 obteve um resultado de 88.4 no Terminal Bench v2.1, superior aos 70.8 do LongCat-2.0, e 51.8 no AutomationBench contra 15.8. O modelo também alcançou 91.9 no BrowseComp, 82.1 no PaperBench, 55.4 no 3DCodeBench e 78.6 no Vision2Web. Em comparação com modelos avançados de outros laboratórios, o LongCat-2.5 não ocupa o primeiro lugar em todos os testes; por exemplo, no Program Bench, ele atinge 25.5 contra 37 do melhor concorrente. Deve-se notar que esses resultados ainda não foram verificados independentemente.

No log de alterações do LongCat, está indicado que o modelo é compatível com Claude Code, Codex, Hermes e outros mecanismos principais, e a documentação da plataforma contém guias de configuração de ferramentas como OpenCode, Cline, Kilo Code, CodeBuddy e WorkBuddy. O LongCat-2.5 está disponível em longcat.chat e através da LongCat API, sendo que a Meituan anunciou lançamentos futuros no GitHub e Hugging Face.

Histórias semelhantes

Scenes AI da Dawa Technology opera com modelos mundiais de 34 bilhões em tempo real em uma única placa RTX
Leia mais
pandaily.com

Scenes AI da Dawa Technology opera com modelos mundiais de 34 bilhões em tempo real em uma única placa RTX

A Dawa Technology, sediada em Chunchin e originada do setor de produção virtual de cinema, apresentou o Scenes AI — um modelo de mundo em tempo real. Este sistema é capaz de transformar vídeos gravados por câmeras comuns em um mundo editável e persistente.

O produto recebeu um prêmio por excelência em um evento intermediário de startups da NVIDIA em Suzhou, em 15 de outubro. Trinta membros do NVIDIA Inception participaram deste estágio, juntamente com mais de 580 participantes.

A maioria dos modelos de vídeo se concentra na previsão do próximo quadro. No entanto, o Scenes AI suporta um estado contínuo do mundo. Elementos como cena, pessoas, câmera, iluminação, objetos e física são armazenados como variáveis separadas que podem ser lidas e modificadas independentemente. Ao mudar, apenas a parte correspondente do estado é atualizada, e não toda a imagem é redesenhada.

Em demonstrações, a Dawa mostrou como uma sala pode se transformar em um campo desenhado à mão, enquanto uma cadeira, um urso de pelúcia e um armário mantêm suas posições. As inscrições na parede permanecem no lugar, e as pessoas aparecem e desaparecem, enquanto o clima muda de neve para chuva.

O sistema inclui uma camada de controle complexa e uma camada generativa leve. A camada de controle, construída em torno do módulo Latent Stage, divide a cena, o personagem, a câmera, a iluminação, o traje e o adereço no espaço latente, aplicando restrições físicas para sólidos, tecidos, líquidos e partículas. A camada de renderização, LiveStage, utiliza difusão esparsa causal para amostrar apenas as áreas em mudança.

O modelo possui um total de 34 bilhões de parâmetros, mas ativa cerca de 4 bilhões a cada passo, o que representa aproximadamente 11,8%. A Dawa afirma que isso reduz o uso da GPU em 40% a 60% e acelera a inferência três a cinco vezes em comparação com a difusão de vídeo tradicional.

Em uma única placa de consumo NVIDIA GeForce RTX, o sistema atinge a inferência em tempo real em resolução de 720p e taxa de 25 quadros por segundo. Em testes de edição contínua, a empresa relata uma taxa de sucesso de edição alvo de 98,2% e uma retenção de identidade de pessoas de 93,3%. O sistema utiliza CUDA, TensorRT e NVENC e funciona em hardware local sem computação em nuvem.

A Dawa afirma que seus dados foram obtidos em um estúdio de 84.000 metros quadrados, mais de 300 produções reais e 180 TB de dados de estado do mundo. O Diretor de Produto da empresa, Li Zongxin, resumiu a abordagem da seguinte forma: o vídeo pode terminar, mas o mundo deve continuar funcionando. Todos os indicadores de desempenho apresentados são dados fornecidos pela própria empresa.

Tongyan Lingzhi utiliza adaptadores LoRA pessoais e modelos de autoaperfeiçoamento para desenvolver IA
Leia mais
pandaily.com

Tongyan Lingzhi utiliza adaptadores LoRA pessoais e modelos de autoaperfeiçoamento para desenvolver IA

A Tongyan Lingzhi, uma subsidiária da plataforma industrial do Instituto de Inteligência Artificial Geral de Pequim (BIGAI), apresentou sua abordagem ao conceito de IA pessoal. Essa abordagem envolve a criação de modelos que aprendem continuamente com base nos dados de um indivíduo, projeto ou empresa específico, em vez de depender apenas de consultas e busca de informações.

A maioria dos sistemas de IA corporativos existentes hoje se adapta aos usuários externos. Eles usam consultas para estabelecer regras, extraem documentos através de busca, armazenam o estado na memória e empacotam etapas reutilizáveis. No entanto, os pesos do modelo raramente são alterados após a interação.

A Tongyan Lingzhi afirma que hábitos estáveis, como padrões de engenharia de uma equipe ou disciplina de gestão de riscos de um grupo de investimento, podem ser integrados diretamente nos parâmetros do modelo. A arquitetura da empresa prevê a manutenção de um modelo base geral para processar conhecimentos e raciocínios comuns, ao qual são adicionados adaptadores Personal LoRA leves para cada usuário, projeto ou organização individual. A empresa observa que essas capacidades individuais devem ser mantidas mesmo em caso de substituição do modelo base.

Para manter o treinamento desses adaptadores, a equipe desenvolve um mecanismo de autoaperfeiçoamento recursivo, ou RSI. Rastreamentos de tarefas, correções humanas e resultados obtidos tornam-se dados potenciais para treinamento. Um avaliador especial, configurado de acordo com os padrões de cada usuário ou empresa, seleciona os sinais que devem ser estudados antes de aplicar uma atualização incremental LoRA. O modelo atualizado é então executado nas mesmas tarefas da versão anterior, e apenas as melhorias são lançadas no ambiente de trabalho, enquanto as regressões são revertidas.

O diretor técnico Chu Bingbin enfatizou que uma variação desviada é apenas um sinal, e apenas padrões recorrentes devem se tornar dados de treinamento. Além disso, a empresa está trabalhando na criação de infraestrutura para tornar milhares desses adaptadores acessíveis. O sistema TIP executa treinamento e inferência paralelamente nos mesmos GPUs, e o Paged LoRA gerencia a memória do adaptador em páginas. Em uma fase de teste usando Qwen2.5-72B-Instruct em oito GPUs Nvidia H800 e um orçamento de memória de adaptador de 5,79 GB, o Paged LoRA demonstrou menor latência e melhor comportamento na 'cauda' em comparação com o layout plano, quando as consultas LoRA variavam de 1% a 30% do tráfego, embora o desempenho tenha diminuído ao atingir 50%.

A Tongyan Lingzhi reconhece que o trabalho ainda está em estágio inicial. Embora o caminho técnico do RSI e a arquitetura do produto estejam definidos, e os módulos estejam em fase de design, o ciclo de treinamento totalmente automatizado ainda está em desenvolvimento. Problemas abertos incluem esquecimento catastrófico, contaminação por feedback e deriva do modelo.

DeepSeek lança atualização V4.1 Flash e framework DeepInfer para aumentar a eficiência e reduzir custos de IA
Leia mais
technode.com

DeepSeek lança atualização V4.1 Flash e framework DeepInfer para aumentar a eficiência e reduzir custos de IA

O desenvolvimento de modelos de inteligência artificial mais poderosos é apenas metade da tarefa; a outra metade consiste em garantir sua disponibilidade para operação em grande escala. A empresa DeepSeek anunciou a atualização V4.1 Flash, focada em acelerar a execução de tarefas e reduzir o comprimento das saídas, além de lançar um framework de código aberto para um processo de inferência mais eficiente.

Em 17 de outubro, a DeepSeek lançou o modelo V4.1-Flash-1017, que é uma atualização do seu modelo V4.1 Flash. De acordo com os resultados de teste publicados pela empresa, foram alcançados aprimoramentos em várias áreas, incluindo tarefas de codificação e tarefas de agente. Por exemplo, a pontuação Terminal-Bench 4.0 aumentou de 31.2 para 42.3, e o DeepSWE v1.1 cresceu de 74.2 para 77.0.

No gráfico de custo-benefício para o benchmark de codificação DeepSWE v1.1, mostra-se que o V4.1 Flash-1017 atinge uma taxa Pass@1 de 77% com um custo de cerca de US$ 0,20 por tarefa, superando vários modelos que exigem custos operacionais significativamente maiores. Em configurações mais baixas, variando de US$ 0,11 a US$ 0,14 por tarefa, o modelo ainda demonstra resultados na faixa de 72–73%.

A DeepSeek também relata a redução no tempo de execução das tarefas e a diminuição do volume de saída, o que permite reduzir os custos de inferência, pois o modelo realiza o mesmo trabalho usando menos tokens e menos tempo computacional. Esta atualização foi otimizada para frameworks de agentes, como DeepSeek Harness, Tencent CodeBuddy e WorkBuddy.

No entanto, deve-se notar que os números apresentados são, em primeiro lugar, resultados de testes internos da empresa, e diferentes testes utilizam diferentes configurações de avaliação e frameworks, o que não garante o desempenho idêntico do modelo em todas as aplicações.

Um sinal específico veio da tabela de classificação Agent Arena da Arena. De acordo com um relatório da ITHome de 20 de outubro, o modelo atualizado ocupou o primeiro lugar entre os modelos de pesos abertos e o 11º lugar no geral, com base em 7498 sessões de uso real. O custo médio foi de aproximadamente US$ 0,18 por tarefa, embora diferentes páginas da tabela de classificação exibissem valores entre US$ 0,18 e US$ 0,19.

Em 20 de outubro, a DeepSeek apresentou o DeepInfer, seu framework interno de inferência, bem como a biblioteca deepseek-recipe para processamento de requisições de API, preparação de prompts para o modelo e análise de resultados. Os frameworks de inferência definem como os modelos utilizam recursos computacionais para processar solicitações. Sua arquitetura afeta a latência, o throughput e o hardware necessário para atender aos usuários, tornando-os um fator importante, embora menos visível, nos custos operacionais de IA.

A DeepSeek descreve o DeepInfer como um framework que suporta seus serviços de produção em larga escala. O lançamento de código aberto inclui núcleos de computação otimizados, agendamento assíncrono e suporte a inferência distribuída e decodificação especulativa, conforme a documentação README e de implantação. Atualmente, ele suporta GPUs Nvidia SM100 e NPU Huawei Ascend 950, sendo o DeepSeek V4.1 Flash listado como modelo suportado.

Este lançamento não representa um stack de inferência completo. A documentação da DeepSeek indica que um serviço completo requer um sistema de KV-cache, desagregação de prefill/decodificação e balanceamento de carga entre réplicas com paralelismo de dados, que não são totalmente cobertos por este lançamento, embora grande parte da funcionalidade principal de desagregação já esteja implementada.

O fornecimento de código aberto dá aos desenvolvedores acesso a parte da tecnologia de serviço dos modelos DeepSeek. A utilidade prática dependerá de seu hardware, cargas de trabalho e esforços de engenharia adicionais necessários para a implementação.

Ao lançar o V4.1 Flash em setembro, a DeepSeek relatou uma redução de um quarto nas exigências de memória KV-cache e de um oitavo nas necessidades de armazenamento SSD em comparação com a geração anterior. A empresa também oferece tarifas de API em horários fora de pico com metade do preço da tarifa de pico.

Em outubro, a DeepSeek abriu suas APIs Search e Fetch para desenvolvedores, estabelecendo um preço de 5 yuans a cada 1000 requisições bem-sucedidas. Chamadas através de integrações DeepSeek API com Claude Code e Codex são temporariamente gratuitas, e a cobrança por solicitação está programada para 1º de novembro.

Essas conquistas demonstram que a DeepSeek está trabalhando para aumentar a eficiência tanto no nível do modelo quanto no nível da infraestrutura, ao mesmo tempo que expande o conjunto de ferramentas para agentes de IA. Se essas melhorias se traduzirão em desempenho confiável e redução de custos gerais dependerá das cargas de trabalho reais, da implementação e da manutenção.

Popular