A Meta, proprietária do Facebook e Instagram, anunciou na quarta-feira a implementação de novas ferramentas de inteligência artificial para combater anúncios que direcionam secretamente os usuários para materiais sobre abuso sexual infantil. Neste comunicado, a empresa revelou que, na primeira metade de 2026, tomou medidas em relação a 5,3 milhões de materiais relacionados à exploração sexual infantil na Índia.
De acordo com um comunicado da empresa no blog, mais de 98% do conteúdo no Facebook e Instagram na Índia foi detectado e removido antes que os usuários o denunciassem. Em escala global, entre janeiro e junho, 33,2 milhões de materiais semelhantes foram processados nas duas plataformas, sendo que mais de 97% foram identificados proativamente.
A Meta enfatizou que manter a segurança dos jovens em seus aplicativos é uma das tarefas mais importantes e contínuas. A empresa observou que os agressores mudaram de tática, passando a usar publicidade que pode parecer inofensiva, mas que redireciona as pessoas para conteúdo ilegal hospedado fora das plataformas.
Após identificar esse esquema, a empresa expandiu a investigação além dos anúncios declarados, bloqueou as contas relacionadas e impediu links externos. As novas medidas incluem um sistema baseado em modelos de linguagem grandes para detectar 'sinalização' (signposting) — conteúdo publicitário que parece inocente, mas é suspeito de direcionar usuários para conteúdo ilegal.
Além disso, a Meta melhorou a avaliação de para onde os anúncios levam, analisando não apenas a exibição, mas também o destino final, e adicionou verificações automatizadas baseadas em IA para identificar materiais que os sistemas antigos não detectavam. Um agente de IA também é usado para testar seus próprios mecanismos de defesa quanto a vulnerabilidades, e o sistema de detecção de usuários banidos que criam novas contas foi reforçado.
Adicionalmente, a Meta continua a aplicar a tecnologia de correspondência de imagens e vídeos PhotoDNA, que utiliza em seus aplicativos desde 2011, e também se apoia em sinais comportamentais e sistemas baseados em regras. A empresa compartilha hashes de materiais identificados com outras organizações por meio do programa Lantern Coalition of Technologies e bloqueia links para sites externos onde esse tipo de conteúdo está hospedado, removendo as postagens, comentários ou anúncios correspondentes.
A Meta informa sobre materiais confirmados no Centro Nacional de Crianças Desaparecidas e Exploradas dos EUA. Em setembro, a empresa anunciou a transferência de casos de segurança infantil diretamente para o Portal Nacional de Relatórios de Cibercrime, gerido pelo Centro de Coordenação de Cibercrime da Índia.
Os investigadores da Meta, incluindo ex-funcionários do FBI, estão focados em desmantelar redes de contas predatórias, em vez de trabalhar individualmente com cada conta. A empresa afirma que colabora constantemente com as autoridades para responsabilizar os culpados.
A Índia intensificou o controle sobre as plataformas de mídia social em relação a conteúdo online prejudicial e ilegal, incluindo materiais sobre abuso sexual infantil e deepfakes. Em julho, o governo enviou uma notificação à Meta sobre materiais de exploração sexual infantil em anúncios pagos no Instagram. O Ministério da Eletrônica e Tecnologia da Informação (MeitY) exigiu imediatamente que o Instagram desativasse todos os anúncios e conteúdos que facilitassem tal acesso, solicitou uma explicação detalhada e convocou seus executivos para a Índia.
Discussões intensas subsequentes com a alta administração da Meta levaram o Ministério a declarar categoricamente que tal conteúdo constitui uma violação e não pode ser protegido pelo status de porto seguro. A Comissão Nacional de Proteção de Direitos da Criança também convocou o CEO e o líder da Meta na Índia em relação à investigação de anúncios com tal material; o órgão de proteção aos direitos da criança tomou nota do relatório BBC Eye sobre anúncios suspeitos e solicitou esclarecimentos à Meta.
A investigação do BBC Eye, publicada no início de julho, alegava que o Instagram exibia anúncios pagos promovendo tal conteúdo, alguns dos quais levavam os usuários a canais do Telegram contendo material pornográfico com crianças. A investigação também descobriu que os sistemas de recomendação da Meta estavam amplificando a disseminação de vídeos com tais materiais.