Materiais de abuso sexual infantil (CSAM) foram disseminados por muito tempo nas plataformas da Meta. A empresa, liderada por Mark Zuckerberg, é acusada de tentar minimizar a gravidade do problema e até mesmo enfraquecer intencionalmente as regras de segurança para crianças.
De acordo com os resultados de uma recente investigação da BBC, a situação continua a piorar. Descobriu-se que o Instagram lucra com publicidade paga que promove CSAM na Índia. Isso revelou lacunas significativas nos esforços da Meta para prevenir esse problema.
No início deste ano, a Meta anunciou planos para reduzir a dependência de moderadores humanos terceirizados, substituindo-os por inteligência artificial. No entanto, os sistemas de IA existentes mostraram-se ineficazes para interromper o fluxo de conteúdo extremamente perturbador nas plataformas da empresa.
Alguns anúncios repugnantes analisados pela BBC continham termos como 'rape video' e 'child video'. Esses anúncios levavam a canais ocultos no Telegram, onde os materiais podiam ser comprados por apenas 1 dólar.
Esta revelação causou indignação entre as estruturas governamentais do país. No fim de semana, o Ministério da Eletrônica e Tecnologia da Informação emitiu um aviso à Meta, exigindo a remoção imediata de todos os anúncios e conteúdos relacionados à venda de CSAM. De acordo com a emissora indiana DD News, o ministério deu à Meta um prazo até 11 de julho para fornecer uma explicação detalhada.
Quando a BBC contatou a Meta para comentários, a empresa afirmou ter desativado vários anúncios e suspenso as contas relacionadas por violar políticas. Um representante da empresa observou que 'nenhum sistema é perfeito e nosso processo de verificação pode não detectar todas as violações de política. Continuamos a usar tecnologias proativas de detecção em anúncios após sua publicação, e qualquer pessoa pode nos informar sobre anúncios que, em sua opinião, violam nossas regras.'
O Telegram informou à BBC que removeu 'mais de 274.000 grupos e canais relacionados a materiais de abuso sexual infantil' em 2026. Além disso, Brian Baland, ex-vice-presidente do Facebook, declarou que os algoritmos do Instagram foram projetados para maximizar o lucro. Ele observou: 'Parece triste e trágico que o compromisso entre receita e experiência do usuário se tornou uma parte mais central da conversa com o tempo.'
Baland testemunhou contra a Meta durante um processo judicial, no qual os jurados no Novo México concluíram que a empresa enganou os usuários sobre a segurança de suas plataformas para crianças. Em março, os jurados decidiram que a Meta permitiu a disseminação de CSAM em suas plataformas, transformando-as efetivamente em mercados para o comércio de crianças sexualmente exploradas.
A Índia ocupa o segundo lugar mundial em número de denúncias de CSAM na principal linha direta, com 1,9 milhão de denúncias, ficando atrás apenas dos Estados Unidos. No entanto, permanece desconhecido quantos desses casos permanecem sem serem detectados.
Após receber uma notificação do governo, a Meta anunciou na terça-feira a implementação de um novo conjunto de medidas destinadas a combater a exploração infantil em todas as suas plataformas. Essas ações foram tomadas sob pressão do governo indiano, que anteriormente havia feito uma observação sobre anúncios no Instagram contendo material alegado de abuso sexual infantil.
Em seu blog, a Meta informou que, antes mesmo da divulgação pública do problema, a empresa já havia detectado e desativado vários anúncios e contas infratoras. Uma investigação subsequente levou à remoção de mais materiais publicitários, ao bloqueio de um maior número de contas e à proibição de URLs associados a conteúdo que viola as políticas.
A Meta utiliza ferramentas avançadas de inteligência artificial para identificar contas que disseminam links suspeitos fora da plataforma, bem como outros sinais relacionados à exploração infantil. A empresa esclareceu que, apenas nos últimos seis meses na Índia, 160.000 contas foram removidas graças a essas medidas.
A empresa refutou alegações de que seus sistemas de publicidade visavam intencionalmente usuários com interesse inadequado em crianças. A Meta afirmou que suas tecnologias são capazes de reconhecer comportamentos suspeitos e que, no ano passado, removeu mais de quatro milhões de contas em todo o mundo devido a atividades potencialmente suspeitas relacionadas a crianças.
Para verificar anúncios e monitorar o comportamento dos anunciantes, a empresa combina sistemas automatizados com verificação manual. Empresas que violam os padrões da comunidade ou de publicidade da Meta podem enfrentar restrições ou bloqueio total de anúncios nas plataformas da Meta.
Além disso, a Meta destacou seus investimentos no desenvolvimento de inteligência artificial para melhorar o controle de conteúdo. Agora, os sistemas de IA da empresa suportam moderação nos idiomas falados por 98% dos usuários da internet. A empresa reafirmou seu compromisso com a cooperação com as autoridades policiais e parceiros do setor, continuando a investir em novas tecnologias, compartilhamento de informações de inteligência e fortalecimento das medidas de proteção infantil online.
O governo indiano enviou uma notificação oficial à Meta em relação a conteúdo relacionado a abuso sexual infantil e exploração (CSEAM) veiculado em publicidade paga no Instagram. O ministério exigiu uma resposta detalhada em sete dias.
O Ministério da Eletrônica e Tecnologia da Informação (MeitY) ordenou que o Instagram removesse ou bloqueasse imediatamente todos os materiais publicitários e conteúdos que promovam ou facilitem o acesso ao CSEAM.
O Instagram é muito popular entre os jovens tanto na Índia quanto no mundo. Os usuários passam um tempo significativo na plataforma, especialmente utilizando o recurso Reels. As empresas utilizam ativamente o Instagram para promover marcas e melhorar sua presença através de anúncios.
Os problemas com a Meta continuam. Anteriormente, a empresa também recebeu uma notificação sobre o recurso de reserva de nomes de usuário no WhatsApp. A Meta lançou esse recurso na Índia em modo de teste para responder a um pedido de esclarecimentos. O governo indiano temia que o recurso de nomes de usuário no WhatsApp pudesse ser usado por golpistas cibernéticos. No entanto, a empresa declarou que ainda não implementa esse recurso, planejando o lançamento até o final do ano.
As autoridades centrais emitiram um aviso severo à empresa Meta, exigindo a interrupção imediata da exibição de anúncios relacionados a conteúdo sobre abuso infantil.
Manash Pratim Gohain é um jornalista experiente com mais de vinte anos de experiência na publicação The Times of India. Durante sua carreira, ele criou um vasto corpo de materiais cobrindo tópicos como política educacional, processos políticos e administração pública.
Gohain é conhecido por sua cobertura aprofundada da Política Nacional de Educação (NEP) de 2020, reformas de acreditação e programas de qualificação. Além disso, ele cobriu política estudantil, planejamento urbano e movimentos sociais. Seu jornalismo político, que combina uma abordagem analítica com cobertura de notícias, ajuda a ligar as mudanças políticas ao seu impacto na sociedade.
