Xinhua apresenta seu agente de IA Xinhua Yudian na cúpula em Pequim

A agência de notícias Xinhua iniciou a Iniciativa Global de Mídia, destinada ao desenvolvimento conjunto de padrões para a aplicação de inteligência artificial no jornalismo. Esses padrões foram apresentados como um Documento de Cooperação Global em Mídia e IA na Cúpula Mundial de Mídia de 2026.

O objetivo desta iniciativa é promover a troca de experiências e a colaboração no uso responsável e padronizado da IA no jornalismo. As principais áreas de trabalho incluem a troca de práticas, testes conjuntos de soluções, pesquisas coletivas e o aprimoramento das habilidades profissionais dos participantes. A iniciativa visa ajudar os parceiros a contribuir utilizando seus pontos fortes.

O primeiro grupo de parceiros é composto por onze organizações chinesas e onze internacionais. Entre os participantes chineses estão estruturas como People's Daily, Agência de Notícias Xinhua, China Media Group, Universidade de Pequim, Universidade Tsinghua, Universidade Renmin da China, Centro Chinês de Proteção de Direitos Autorais, Academia Chinesa de Tecnologia da Informação e Comunicação, Instituto de Automação da Academia Chinesa de Ciências, China National Institute of Standardization e China Association of Printing Technology.

Os parceiros internacionais incluem TASS, Agência de Notícias do Vietnã, Rossiyskaya Gazeta, União das Agências de Notícias da OIC, Agência de Notícias do Catar, Independent Online (África do Sul), La Nueva Televisión del Sur, Agência Nacional de Notícias Malaia, Agencia Peruana de Noticias Andina, Uganda Broadcasting Corporation e Tunis Afrique Presse.

O documento-quadro baseia-se na experiência prática da Xinhua na criação de um sistema de padrões para o uso de IA na indústria de notícias. Ele visa facilitar a troca de experiências em gestão de riscos e aplicação de IA em áreas como gerenciamento de dados, implantação de modelos e segurança de conteúdo. Além disso, o documento busca criar canais de comunicação entre organizações de mídia mundiais e é apresentado como uma base de referência voluntária.

O princípio central do documento é que a IA deve permanecer como uma ferramenta auxiliar, e a responsabilidade final pelo conteúdo noticioso deve ser mantida pelos jornalistas. Recomenda-se às organizações de mídia que sigam a ética jornalística da veracidade, combatam as alucinações de IA e a desinformação, reforcem as garantias de precisão e dediquem atenção ao teste e avaliação das capacidades dos modelos. Também é enfatizada a importância do respeito à diversidade cultural e da consideração dos diferentes níveis de desenvolvimento das organizações de mídia, com o objetivo de construir um ambiente informacional global robusto e diversificado.

A base prática abrange três áreas chave. A primeira é a rotulagem de conteúdo e a verificação de sua origem. Materiais substancialmente criados, reescritos ou sintetizados com a ajuda da IA devem ter rótulos visíveis e metadados incorporados. Esses rótulos devem informar o público sobre o uso de IA, e os metadados devem registrar o grau de envolvimento da IA, a versão do modelo e o tempo de criação. Para conteúdo sintético de alto risco, são previstas medidas mais resistentes à falsificação, incluindo marcas d'água digitais, quando apropriado. A estrutura-quadro também exige o registro em cada etapa da produção com o auxílio de IA, desde os pedidos e materiais de origem até as edições de editores e revisores. Os rótulos devem ser mantidos durante a republicação do conteúdo.

A segunda área é a avaliação de modelos de IA. O sistema de padrões da Xinhua para a indústria de notícias combina testes automatizados com a perícia jornalística profissional, que inclui a verificação da precisão factual e da completude lógica. Os participantes são convidados a compartilhar ferramentas de avaliação e cenários de teste que foram verificados na prática real. As avaliações devem ser objetivas e imparciais, os resultados reproduzíveis e os relatórios padronizados.

A terceira área é a segurança e gestão de riscos. O documento prevê um sistema de gerenciamento de riscos de ciclo fechado, que abrange a avaliação preliminar antes da implementação, o controle de acesso e o registro durante a operação, bem como a resposta a incidentes após a implementação. Antes de iniciar a operação, os sistemas devem ser testados quanto a riscos, incluindo alucinações factuais, injeção maliciosa de prompts, deepfakes e viés algorítmico. É necessário estabelecer limites operacionais claros e direitos de acesso para agentes de IA e sistemas de notícias automatizados, bem como mecanismos de intervenção humana e desligamento de emergência. Os resultados gerados por IA podem ser usados apenas como rascunhos ou materiais de referência; todo o conteúdo destinado à publicação deve passar por uma verificação profissional de fatos em múltiplas fontes. É proibido usar IA para fabricar citações ou detalhes de eventos. Materiais multimídia simulados ou reconstruídos devem ser claramente rotulados e não devem ser apresentados como registros autênticos do local dos eventos. Dados pessoais utilizados no treinamento e processamento de materiais de IA devem ser anonimizados, e o acesso a materiais confidenciais deve ser estritamente limitado.

Os participantes podem formar um grupo de trabalho e um mecanismo de revisão aberta após consultas para garantir a atualização e melhoria contínuas do documento. Eles também são incentivados a compartilhar experiências práticas de operações de mídia e realizar análises conjuntas de casos. Os formatos de participação, incluindo implementação prática, troca de casos, avaliação conjunta de modelos e discussões temáticas, são voluntários. O documento não é obrigatório e é voluntário. Os participantes podem adaptá-lo aos seus sistemas legais locais, e ele não impõe obrigações. Organizações de mídia e instituições especializadas em todo o mundo são convidadas a aderir a esta iniciativa, e espera-se que o documento seja atualizado periodicamente para refletir o desenvolvimento das tecnologias de IA.

Em um fórum em Uzhchen dedicado à confiança, interconexão e interoperabilidade de agentes, uma plataforma para registro e resolução de dados de identificação de agentes de IA foi apresentada em 4 de novembro. Isso foi relatado pela IT Home e pelo site chinês China Daily. No mesmo evento, 20 empresas, incluindo Huawei, Alibaba, Tencent, Xiaomi e Baidu, adotaram uma convenção de autodisciplina no desenvolvimento de agentes de IA.

Atualmente, a plataforma está em fase de desenvolvimento. De acordo com os dados disponíveis, ela está sendo criada conjuntamente por estruturas governamentais para garantir a codificação de identificadores, resolução interdomínio e compatibilidade confiável. Adicionalmente, ambientes operacionais serão hospedados sobre a plataforma para gerenciar acesso e publicar capacidades dos agentes. Um programa piloto já foi lançado, conectando vários provedores de serviços e plataformas operacionais.

A Ant Group foi um dos primeiros participantes. A empresa integrou sua infraestrutura para colaboração de agentes na plataforma operacional. Serviços iniciais, como o agente de serviços públicos Alipay e Sesame Credit, estabeleceram e concluíram conexões confiáveis com agentes em outras plataformas. Chen Liang, vice-presidente da Ant Group e diretor técnico de seu grupo de negócios Alipay e Segurança, enfatizou que a era dos agentes exige uma infraestrutura de confiança que incorpore identificação, autorização e responsabilidade em cada interação. Ele também mencionou a conta de identificação unificada APASS da Ant e o protocolo ASL, que a empresa está desenvolvendo em conjunto com mais de 20 parceiros.

A convenção foi desenvolvida pela Academia Chinesa de Tecnologia da Informação e Comunicação (CAICT) em colaboração com empresas como Huawei, Alibaba, Tencent, Xiaomi, Baidu, Volcano Engine, Ant Group e Douyin. Ela inclui oito compromissos relacionados a sistemas de confiança de agentes, infraestrutura de interconexão, interoperabilidade, proteção de segurança, mecanismos de gerenciamento, direitos do usuário, implementação industrial e troca aberta de tecnologia. Os signatários se comprometeram a desenvolver tecnologias de verificação de conformidade e incorporação de regras, bem como a combater conjuntamente o uso de agentes para fraude e exploração algorítmica.

A seção de infraestrutura exige o estabelecimento de padrões comuns para registro e resolução de agentes, descoberta de capacidades, tradução de intenções, roteamento e interoperabilidade de protocolos. O fórum foi recebido pela Administração de Ciberespaço da China e pela GSMA. Wang Jintao, vice-diretor da Administração de Ciberespaço da China, apelou pelo estabelecimento de regras básicas para identificação de agentes, interconexão confiável, gerenciamento de autorização e exploração apropriada, expandindo o gerenciamento online desde a segurança de conteúdo e modelos até sujeitos verificáveis, comportamento controlado e responsabilidade rastreável. As partes que assinaram a convenção declararam estar prontas para aceitar supervisão de órgãos setoriais e do público.

A NetEase Yidun, uma divisão de segurança de conteúdo e riscos nos serviços corporativos da NetEase, apresentou seu sistema de produtos com IA nativa na World Internet Conference Light of Internet Expo em Wuzhen, em 3 de novembro de 2026, conforme relatado pela Sina Tech e IT Home.

A empresa afirma que a segurança deve mudar do controle sobre o que a IA diz para o controle sobre o que ela faz, já que os agentes têm acesso a sistemas corporativos, ferramentas e bases de conhecimento.

Zhu Haoci, vice-gerente geral de serviços corporativos da NetEase e líder da Yidun, apresentou um modelo bidirecional: usar IA para reforçar o trabalho de segurança e aplicar ferramentas de segurança para restringir o funcionamento da IA dentro de limites definidos. Ele observou que os riscos atuais incluem geração de conteúdo por IA, deepfakes, fraude automatizada, evasão de restrições de modelos (jailbreaks), vazamento de dados confidenciais e execução de ações pelos agentes fora de suas permissões.

O sistema de produtos consiste em três níveis. O primeiro nível abrange a segurança de conteúdo e dados de IA, incluindo análise e moderação de conteúdo de IA, bem como o agente de moderação CMA. O segundo nível é dedicado à segurança de interação e identificação e inclui controle de riscos de negócios, impressões de dispositivos, CAPTCHA comportamental e proteção contra spoofing facial DeepGuard. O terceiro nível é responsável pela segurança de modelos e agentes, fornecendo mecanismos de proteção de grandes modelos, plataforma de segurança de agentes e verificação da cadeia de suprimentos de agentes.

Na exposição, o sistema recebeu a certificação da primeira versão. No nível de agentes, os mecanismos de proteção filtram dados de entrada e saída do modelo, enquanto o Agent Guard verifica se as ações do agente correspondem às intenções do usuário, garante o cumprimento das permissões, marca chamadas de ferramentas de risco e bloqueia comportamentos.

A plataforma de segurança de agentes detecta ativos de IA utilizados, escaneia cadeias de suprimentos de Skill e MCP, e protege contra vazamento de dados confidenciais. Ela visa a IA sombra — ferramentas usadas pelos funcionários sem o conhecimento do departamento de TI, oferecendo opções de bloqueio, verificação, notificação e mascaramento de dados.

A Yidun forneceu exemplos da eficácia de outros produtos. O CMA combina um modelo interno de segurança de conteúdo com modelos menores especializados e opera 24 horas por dia. A empresa informou que, ao analisar reclamações de um cliente que processa mais de 2,5 milhões de tickets mensalmente, a pré-visualização inicial do CMA combinada com verificações humanas reduziu o tempo médio de verificação de 35,7 minutos para 12,3 minutos com 99,2% de precisão. O DeepGuard, que procura conteúdo improvável e não apenas rastros conhecidos de falsificação, recebeu a mais alta avaliação na avaliação de anti-spoofing facial da Academia Chinesa de Tecnologia da Informação e Comunicação e demonstrou 99% de completude e 96% de precisão contra ataques de captura de tela em testes de fase.

Em um fórum separado, Rao Xiaoyan, chefe do departamento de segurança de conteúdo da Yidun, declarou que instruções maliciosas podem estar ocultas em páginas da web, arquivos, APIs, ferramentas ou respostas MCP, portanto, os sistemas devem distinguir entre dados de tarefas e comandos comportamentais. Ela descreveu a implementação de proteções contra injeção antes das chamadas de modelos e antes da construção de contexto, bem como a verificação de saídas à medida que são transmitidas: o conteúdo suspeito é enviado para verificação, e o conteúdo de alto risco é rejeitado.