A NetEase Yidun, uma divisão de segurança de conteúdo e riscos nos serviços corporativos da NetEase, apresentou seu sistema de produtos com IA nativa na World Internet Conference Light of Internet Expo em Wuzhen, em 3 de novembro de 2026, conforme relatado pela Sina Tech e IT Home.
A empresa afirma que a segurança deve mudar do controle sobre o que a IA diz para o controle sobre o que ela faz, já que os agentes têm acesso a sistemas corporativos, ferramentas e bases de conhecimento.
Zhu Haoci, vice-gerente geral de serviços corporativos da NetEase e líder da Yidun, apresentou um modelo bidirecional: usar IA para reforçar o trabalho de segurança e aplicar ferramentas de segurança para restringir o funcionamento da IA dentro de limites definidos. Ele observou que os riscos atuais incluem geração de conteúdo por IA, deepfakes, fraude automatizada, evasão de restrições de modelos (jailbreaks), vazamento de dados confidenciais e execução de ações pelos agentes fora de suas permissões.
O sistema de produtos consiste em três níveis. O primeiro nível abrange a segurança de conteúdo e dados de IA, incluindo análise e moderação de conteúdo de IA, bem como o agente de moderação CMA. O segundo nível é dedicado à segurança de interação e identificação e inclui controle de riscos de negócios, impressões de dispositivos, CAPTCHA comportamental e proteção contra spoofing facial DeepGuard. O terceiro nível é responsável pela segurança de modelos e agentes, fornecendo mecanismos de proteção de grandes modelos, plataforma de segurança de agentes e verificação da cadeia de suprimentos de agentes.
Na exposição, o sistema recebeu a certificação da primeira versão. No nível de agentes, os mecanismos de proteção filtram dados de entrada e saída do modelo, enquanto o Agent Guard verifica se as ações do agente correspondem às intenções do usuário, garante o cumprimento das permissões, marca chamadas de ferramentas de risco e bloqueia comportamentos.
A plataforma de segurança de agentes detecta ativos de IA utilizados, escaneia cadeias de suprimentos de Skill e MCP, e protege contra vazamento de dados confidenciais. Ela visa a IA sombra — ferramentas usadas pelos funcionários sem o conhecimento do departamento de TI, oferecendo opções de bloqueio, verificação, notificação e mascaramento de dados.
A Yidun forneceu exemplos da eficácia de outros produtos. O CMA combina um modelo interno de segurança de conteúdo com modelos menores especializados e opera 24 horas por dia. A empresa informou que, ao analisar reclamações de um cliente que processa mais de 2,5 milhões de tickets mensalmente, a pré-visualização inicial do CMA combinada com verificações humanas reduziu o tempo médio de verificação de 35,7 minutos para 12,3 minutos com 99,2% de precisão. O DeepGuard, que procura conteúdo improvável e não apenas rastros conhecidos de falsificação, recebeu a mais alta avaliação na avaliação de anti-spoofing facial da Academia Chinesa de Tecnologia da Informação e Comunicação e demonstrou 99% de completude e 96% de precisão contra ataques de captura de tela em testes de fase.
Em um fórum separado, Rao Xiaoyan, chefe do departamento de segurança de conteúdo da Yidun, declarou que instruções maliciosas podem estar ocultas em páginas da web, arquivos, APIs, ferramentas ou respostas MCP, portanto, os sistemas devem distinguir entre dados de tarefas e comandos comportamentais. Ela descreveu a implementação de proteções contra injeção antes das chamadas de modelos e antes da construção de contexto, bem como a verificação de saídas à medida que são transmitidas: o conteúdo suspeito é enviado para verificação, e o conteúdo de alto risco é rejeitado.
