Ant Group lança Ming-3.0-tts: pequenos modelos de síntese de fala com controle de voz
Leia mais
Pandaily
pandaily.com

Ant Group lança Ming-3.0-tts: pequenos modelos de síntese de fala com controle de voz

A equipe da inclusionAI da Ant Group lançou o Ming-3.0-tts em acesso aberto — uma família de modelos para geração de fala cujo objetivo é fornecer controle detalhado sobre a voz em modelos compactos o suficiente para implantação local. O código, o guia de tarefas e as tabelas de avaliação estão disponíveis no GitHub, enquanto os pesos estão hospedados no Hugging Face e ModelScope, sendo todos os materiais distribuídos sob a licença MIT.

O lançamento inclui dois modelos. O Ming-3.0-tts-0.5b é um modelo denso com aproximadamente meio bilhão de parâmetros. O Ming-3.0-tts-tiny é um modelo do tipo mixture-of-experts, construído na arquitetura Ling V3 da Ant, que possui um total de 7,9 bilhões de parâmetros, dos quais 1,3 bilhão estão ativos por token. Ambos os modelos utilizam uma estrutura generativa unificada: um modelo de linguagem, controlado por tokens de controle específicos da tarefa e texto, influencia o patch-head DiT e o tokenizador de áudio.

As capacidades desses modelos são vastas. Os usuários podem clonar vozes de referência, criar novas vozes com base em descrições textuais ou escolher entre mais de 100 vozes chinesas embutidas e cinco em inglês. A entrega da fala pode ser ajustada usando instruções em linguagem natural, e parâmetros como emoção, velocidade, altura tonal e volume podem ser configurados diretamente. Catorze tags embutidas permitem inserir risadas, suspiros e outros sons vocais tanto em chinês quanto em inglês. Os modelos suportam chinês, inglês, alemão, espanhol, francês, coreano e japonês, bem como dialetos de Sichuan e Cantonês.

O modelo tiny suporta adicionalmente diálogos de múltiplos falantes, gerados por roteiro e amostras de voz, o que é voltado para a criação de áudio no estilo de podcasts longos. A equipe observa que essas funcionalidades operam como modos de tarefas separados, e não como combinações arbitrárias.

De acordo com o repositório, o Ming-3.0-tts alcançou o primeiro lugar entre os modelos de pesos abertos no ranking Artificial Analysis Controlled Voice e o primeiro lugar geral no Indicador de Estabilidade de Pronúncia, atingindo 93,2% de segmentos destacados pronunciados corretamente até outubro de 2026. No entanto, a equipe alerta que esses rankings mudam à medida que novos modelos são adicionados. Em benchmarks abertos, o modelo demonstra resultados avançados entre os modelos de código aberto listados em todas as seis métricas de paralinguagem do NVBench com uma única tag, na taxa de erros no conjunto de dados básico cantonês para o modelo 0.5b, e também na taxa de erros de palavras em alemão e espanhol para o modelo tiny.

O arquivo README também aponta honestamente as fraquezas. A semelhança de voz nos idiomas recém-adicionados geralmente não entra no top três, o controle de altura tonal é o atributo menos preciso, a taxa de erros do modelo tiny coreano fica significativamente atrás do modelo menor, e a qualidade de áudio para podcasts ainda é inferior ao lançamento anterior Ming-omni-tts. O roadmap indica como próximos passos a saída acelerada vLLM-Omni e um relatório técnico. O projeto pede aos usuários que não clonen vozes de pessoas reais sem consentimento e rotulem a fala sintetizada onde ela possa ser confundida com gravação real.

Popular