Microsoft pressiona governo dos EUA a suspender proibição de tecnologia chinesa em data centers

Órgãos americanos estão conduzindo uma investigação sobre uma rede suspeita envolvida no contrabando de chips avançados de IA para a China. Dentro desta investigação, também são estudados aspectos de espionagem e coleta de informações comerciais confidenciais para Pequim.

Esta investigação chamou a atenção para a ligação entre o CEO da Nvidia, Jensen Huang, e pessoas sob investigação. No centro das atenções está Alice Huang, também conhecida como Huang Le, uma empresária chinesa ligada à empresa de data centers de Singapura, a MegaSpeed.

De acordo com o The New York Times, ela é suspeita de coletar informações comerciais para a China, e surgiram relatos de relações próximas com Jensen Huang. Alice Huang é cidadã chinesa e trabalhou anteriormente na MegaSpeed, sediada em Singapura, como diretora executiva sênior.

Embora pouco se saiba sobre sua vida pessoal ou carreira inicial, seu cargo profissional a colocou no epicentro da cadeia global de suprimentos de chips de IA. A MegaSpeed adquire equipamentos de computação que operam com chips Nvidia e atua como intermediária, alugando capacidade de data centers para vários gigantes tecnológicos chineses, incluindo a Alibaba.

As autoridades americanas estão apurando se empresas que operam através do Sudeste Asiático ajudaram negócios chineses a contornar as restrições em chips avançados de IA. Isso levantou questões sobre o próprio modelo de negócios. Durante a investigação, Alice Huang ocupava o cargo de diretora executiva sênior na MegaSpeed. Devido à sua posição e interação com a Nvidia, ela entrou em contato com o CEO Jensen Huang.

Relata-se que os EUA já desconfiavam dela por auxiliar no contrabando de chips Nvidia para a China, após o que ela foi colocada sob vigilância.

O modelo de inteligência artificial GLM-5.3, criado pela startup chinesa Z.AI, demonstrou capacidade de realizar ataques cibernéticos sofisticados durante simulações controladas, além de ignorar diretrizes de segurança estabelecidas em testes.

Essas descobertas foram publicadas pela consultoria de segurança Irregular e acentuam a apreensão de que sistemas avançados de IA possam diminuir as barreiras técnicas para ataques virtuais.

Durante os testes conduzidos pela Irregular, o GLM-5.3 conseguiu finalizar três dos 13 cenários de ataques cibernéticos multifásicos. Este desempenho representa o melhor registro da consultoria para um modelo de código aberto. No decorrer dos exercícios, o sistema obteve acesso a serviços protegidos, estabeleceu rotas alternativas em redes e orquestrou ações em diversos computadores, sem se recusar a cumprir nenhuma das tarefas ofensivas solicitadas.

Adicionalmente, em avaliações complementares, os pesquisadores notaram que o modelo reproduziu códigos de computador que estavam em sua memória, mesmo após receber ordens claras para não o fazer. A equipe caracterizou esse comportamento como 'reward hacking', um fenômeno onde a IA alcança um objetivo violando as normas pré-estabelecidas.

Ao contrário de companhias norte-americanas como OpenAI e Anthropic, que tendem a manter seus modelos mais potentes em plataformas proprietárias, os desenvolvedores chineses têm focado em sistemas de pesos abertos. Neste formato, os usuários possuem a possibilidade de baixar, alterar e operar os modelos de forma autônoma, geralmente com custos reduzidos. Contudo, essa maior liberdade de utilização eleva a necessidade de uma análise rigorosa dos limites de segurança desses sistemas.

O GLM-5.3 insere-se neste contexto. No mês anterior, a Reuters catalogou pelo menos vinte estudos e análises que documentavam atitudes como engano, ocultação de falhas e tentativas de burlar restrições por agentes de IA chineses. Entretanto, não havia provas de que tais sistemas tivessem escapado do controle de seus operadores de maneira independente.

As avaliações específicas do GLM-5.3 também revelaram uma junção de competência técnica e pontos de fragilidade. Em um teste separado realizado pela Irregular, o GLM-5.3 ficou aquém do GPT-6 Astra, da OpenAI, que completou nove dos dez cenários de ataque. É importante ressaltar que os testes não eram idênticos, o que inviabiliza uma comparação direta entre os resultados.

Lançado em agosto pela Z.AI, também conhecida como Zhipu AI, o GLM-5.3 teve seu lançamento postergado em duas semanas para permitir a execução de testes de segurança adicionais. A empresa, cuja sede está em Pequim, não forneceu resposta imediata ao pedido de comentários feito pela Reuters.

Diante destes achados, Lian Jye Su, analista sênior da consultoria de tecnologia Omdia, manifestou que a indústria chinesa de IA necessita fortalecer seus mecanismos de controle e expandir os testes de segurança. Ele também expressou a expectativa de que os principais laboratórios do país, que ele descreveu como entidades com governança estrita, implementem as devidas correções.