A MetaX anunciou que suas GPUs da série C concluíram a adaptação de dia zero para o modelo principal Tencent Hy4 após o lançamento dos pesos com peso carregável em novembro. Além disso, o desenvolvedor de chips apresentou uma versão W8A8 baseada no FlagOS para seu hardware, que é uma opção de implantação, e não a criação de um modelo novo e treinado especificamente.
A integração foi alcançada graças ao stack de software MXMACA da empresa, que inclui drivers, interfaces, compilador MXCC, adaptação de operadores e conectividade com frameworks de inferência. O anúncio destaca altas taxas de transferência, baixa latência e operação estável, mas essas afirmações são declarações do fornecedor, e não resultados verificados independentemente em todas as aplicações.
O repositório público FlagRelease contém arquivos de pesos safetensors que podem ser baixados, e não apenas um anúncio ou demonstração. A designação W8A8 indica pesos e ativações de oito bits. Ao verificar, foram obtidos com sucesso 64 bytes do fragmento de peso listado; a publicação Pandaily não baixou o modelo completo nem executou a implantação.
O cartão de modelo associado descreve quatro servidores, cada um equipado com oito GPUs MetaX C550 de 64 GB, totalizando 32 GPUs. No cenário de teste com entrada aleatória, foram usados 64 pedidos simultâneos com aproximadamente 4000 tokens de entrada e 1000 tokens de saída por solicitação. Essas condições de operação e características de hardware são importantes ao interpretar os dados obtidos.
Neste teste, o modo de decodificação de grafo, que foi recomendado, proporcionou uma velocidade de saída agregada de 80,98 tokens por segundo em comparação com 52,31 tokens por segundo sem ele. No entanto, o tempo médio até o primeiro token aumentou de 220,5 para 227,2 segundos, incluindo espera na fila. Portanto, os resultados não confirmam a afirmação geral de melhoria de todos os indicadores de latência.
O mesmo cartão ainda marca dois testes multimodais como em andamento. Sua receita de implantação utiliza a configuração máxima de contexto de 65.536 tokens, o que não deve ser confundido com a capacidade de contexto declarada do Hy4 de 1 milhão de tokens. Os indicadores de desempenho e avaliações permanecem dados fornecidos pelo editor e dependem da configuração.
Deve-se também prestar atenção à licenciamento. Embora os metadados do repositório de produção contenham a etiqueta Apache-2.0, a licença original Tencent Hy License 1.0 declara explicitamente que não é Apache 2.0 e inclui pesos quantizados como trabalhos derivados. Ela estabelece requisitos de licenciamento separados para empresas qualificadas que fornecem o Modelo como Serviço, com exceção para uso interno sob certas condições.
Um complemento útil é o caminho de serviço específico da MetaX e a disponibilidade dos pesos quantizados. Isso difere da adaptação anterior do Hy4 pela MetaX e do anúncio inicial do modelo Tencent; nem a integração de hardware nem os metadados do repositório anulam os termos comerciais do modelo original.



