A plataforma X, propriedade de Elon Musk, segue exibindo material de abuso sexual infantil, conforme apontam investigações realizadas pelo Canadian Center for Child Protection e pelo The New York Times. Essas verificações detectaram tanto conteúdos já conhecidos pelas autoridades quanto material sexualizado criado pelo chatbot Grok.
Os achados indicam falhas na capacidade da plataforma de remover conteúdo ilegal. Ambas as análises foram conduzidas por meio de amostragem, visto que o X impõe restrições ao acesso a dados completos da rede social.
Descobertas do Canadian Center for Child Protection
O Canadian Center for Child Protection identificou 65 instâncias em que o Grok produziu imagens exploratórias ou sexualizadas de crianças. Dentre esses casos, havia vítimas de abuso sexual infantil já catalogadas pelas autoridades. Além disso, os pesquisadores registraram solicitações para que o chatbot modificasse fotografias de vítimas conhecidas, vestindo-as com trajes íntimos ou biquínis.
Esses incidentes ocorreram antes de o X suspender a funcionalidade do bot de gerar tal tipo de imagem, após uma reação pública. Nos meses de dezembro e janeiro, a conta do Grok no X havia gerado milhões de imagens de pessoas nuas em resposta aos pedidos dos usuários.
Imran Ahmed, CEO do Center for Countering Digital Hate, classificou essas descobertas como «uma das maiores falhas corporativas da minha vida».
Análise realizada pelo The New York Times
Por sua vez, o The New York Times conduziu uma investigação própria entre janeiro e junho. Utilizando um programa de computador, a equipe buscou termos associados ao material de abuso sem exibir as imagens. Os links encontrados foram encaminhados a um serviço da Microsoft para confirmar se correspondiam a arquivos já identificados por entidades de proteção à infância.
Essa busca resultou na localização de mais de 75 imagens. Embora todas tenham sido removidas após denúncias, algumas delas foram visualizadas centenas de vezes. O aspecto mais alarmante foi a presença de arquivos que já estavam no conhecimento das autoridades, sendo que aproximadamente um terço das imagens encontradas pelo jornal fazia parte de uma lista utilizada por empresas de tecnologia para detecção e exclusão de material de abuso pré-identificado.
Posicionamento e ações do X
Entre os resultados obtidos pelas duas análises, o X declarou que mantém o uso de filtros automáticos e tecnologia proprietária para identificar material de abuso sexual infantil. A empresa afirmou: «Levamos a sério nossa responsabilidade de proteger menores de idade». Adicionalmente, o X declarou possuir uma política de tolerância zero contra material de abuso sexual infantil, incluindo aquele gerado por inteligência artificial.
A companhia também informou que bane usuários que publicam ou interagem com tal conteúdo e os reporta às autoridades. De acordo com o X, 780 mil usuários foram denunciados no último mês, e 1,3 milhão de imagens foram enviadas ao National Center for Missing and Exploited Children neste ano.
Musk adquiriu o antigo Twitter em 2022 e estabeleceu a remoção desse material como «Prioridade nº 1». Em janeiro, ele garantiu que usuários que empregassem o Grok para criar imagens de abuso sexual infantil sofreriam as mesmas sanções aplicadas a quem compartilhasse material não gerado por IA, o que incluía o possível banimento.
As investigações levantam dúvidas sobre a efetividade das medidas implementadas pelo X, dado que arquivos já reconhecidos pelas autoridades reapareceram na plataforma, e o Grok foi utilizado para criar novos conteúdos envolvendo crianças.