A Beijing Academy of Artificial Intelligence (BAAI) apresentou o FlagOS 2.2, a versão mais recente de seu stack de software de código aberto projetado para executar modelos de inteligência artificial em diversas arquiteturas de chips. Este lançamento ocorreu em 30 de setembro e foi demonstrado na Conferência de Computação Aberta de IA em Pequim em 17 de outubro de 2026. A BAAI caracteriza esta atualização como uma transição da adaptação de modelos para múltiplos chips para a otimização do código geral para eles.
O principal feito é a escala. O FlagOS 2.2 abrange nove bibliotecas de operadores, e o número de operadores públicos no FlagGems e bibliotecas relacionadas aumentou de 564 para 1454, representando um aumento de 890 unidades. A nova biblioteca FlagGems-SGLang adicionou 40 operadores multi-chip que cobrem funções como atenção, atualizações de estado Mamba, método de mistura de especialistas, LoRA, amostragem e quantização. A BAAI afirma que, graças a mais de mil operadores em 10 tipos de hardware de IA, o desempenho geral dos operadores aumentou em aproximadamente 27%.
Uma parte significativa desse crescimento é devida à automação. O gerador de operadores KernelGen da BAAI agora suporta nove tipos de chips de IA e criou 765 novos operadores neste trimestre. Desses, 416 passaram por testes de precisão em pelo menos cinco chips domésticos, atingindo mais de 80% do desempenho dos operadores nativos. Além disso, a ferramenta de depuração e perfilamento unificado FlagPrism conecta dados de código-fonte Triton, representação intermediária do compilador e dados de execução no dispositivo, suportando Huawei Ascend, Iluvatar CoreX, Moore Threads, Nvidia e Enflame.
O lançamento também inclui o FlagOS-Compressor para conversão de pesos e quantização entre chips. A BAAI relatou que a aplicação de W8A8 ao modelo Qwen3.5-397B-A17B permitiu reduzir o tamanho dos arquivos do modelo de 751,41 GB para 382,45 GB, o que representa uma redução de 49,1%, enquanto o modelo alcançou 84,85% no GPQA-Diamond. Em combinação com plugins de frameworks para vLLM, Megatron-LM, SGLang e outros, novos modelos podem ser adaptados para até 12 plataformas de chips em apenas um dia após o lançamento.
Pesquisas em equipamentos antigos demonstram sucessos. Em servidores Ascend 910B, a BAAI observou que a largura de banda de serviço lógico do modelo GLM-5.3-Flash no teste de reprodução de agente aumentou 2,04 vezes em comparação com o nível antes da otimização, subindo de 8,52 mil para 17,36 mil tokens por segundo. O modelo Xing4.0-29B-A4B da China Telecom foi adaptado para 10 plataformas de chips, resultando em uma redução de 19,87% no tempo de primeiro token em testes de entrada longa em comparação com os operadores nativos.
A BAAI acredita que o problema reside nos prazos: mais de 80% dos cálculos de IA implantados pertencem a gerações não mais recentes, enquanto os modelos mudam rapidamente. Vale ressaltar que todos os números apresentados são baseados em testes internos da BAAI, e a empresa enfatiza que o desempenho real durante o serviço ainda depende da carga de trabalho.
