A Meta publicou um relatório detalhado em seu blog na terça-feira sobre as medidas que a empresa está tomando para combater materiais de exploração sexual infantil (CSAM) em todos os seus aplicativos. Esses esforços incluem o uso de tecnologias baseadas em inteligência artificial e ações de aplicação da lei em grande escala. A empresa também prometeu continuar investindo em recursos e tecnologia para garantir a segurança dos jovens e fortalecer os processos de verificação de anúncios.
A Meta classificou a exploração infantil como um 'crime hediondo' e declarou que trabalha agressivamente todos os dias para combater tal abuso dentro e fora de suas plataformas. A empresa enfatizou que o trabalho é contínuo, e suas equipes estão constantemente aprimorando os sistemas de proteção, desenvolvendo novas tecnologias, bloqueando links infratores e trocando informações de inteligência no setor. Além disso, a Meta observou que ainda tem muito a fazer e continuará a investir todos os recursos necessários na proteção dos jovens, melhoria da verificação de anúncios e colaboração com as autoridades policiais para responsabilizar criminosos.
A empresa descreveu detalhadamente suas ações atuais contra a exploração infantil, focando na detecção por IA e nas ações de aplicação da lei. A Meta reconheceu os recentes relatos de violações das políticas de publicidade do Instagram na Índia relacionadas à exploração infantil e garantiu que leva esses problemas a sério, pois nunca deseja que tal conteúdo apareça em suas plataformas, e busca melhorar seus esforços para combatê-los.
A Meta refutou categoricamente a alegação de que intencionalmente direciona anúncios com crianças aos usuários devido a interesses inadequados. Em vez disso, a empresa usa tecnologias para identificar contas que exibem atividade potencialmente suspeita relacionada a crianças e relatou ter removido automaticamente mais de quatro milhões de tais contas no ano passado.
Foi destacado que a Meta intensificou o uso de IA no combate à exploração infantil, implementando novos sistemas que cobrem os idiomas falados por 98% dos usuários online. No ano passado, foram removidas globalmente mais de quatro milhões de contas suspeitas e 36 milhões de materiais relacionados à exploração infantil. Na Índia, as ferramentas de IA ajudaram a remover 160.000 contas nos últimos seis meses por publicação de links suspeitos relacionados a atividades exploratórias.
A Meta também indicou que seus sistemas de aplicação da lei detectavam e desativavam vários anúncios infratores e contas associadas antes mesmo que os casos fossem conhecidos. Investigações subsequentes levaram a medidas adicionais, incluindo a remoção de anúncios adicionais, o desligamento de contas e o bloqueio de URLs contendo conteúdo que viola as políticas.
O gigante tecnológico Meta, sediado em Menlo Park, Califórnia, possui as populares redes sociais Facebook, Instagram e WhatsApp. A empresa utiliza ferramentas avançadas de IA para identificar links externos suspeitos postados pelos usuários em combinação com outros sinais que indicam atividades de exploração infantil. Nos últimos seis meses na Índia, isso levou à remoção de 160.000 contas.
Entretanto, fontes governamentais informaram à PTI que uma resposta oficial da Meta é esperada à notificação recebida no sábado. O governo se concentrará em medidas corretivas e ações tomadas pela empresa para aliviar as preocupações.
Na semana passada, o governo enviou uma notificação rigorosa à Meta sobre materiais de exploração sexual infantil e abusos (CSEAM) em anúncios pagos do Instagram. O Ministério da Eletrônica e Tecnologia da Informação (MeitY) exigiu que o Instagram desativasse todos os anúncios e conteúdos que promovam ou facilitem o acesso ao CSEAM, e solicitou uma explicação detalhada em sete dias.
Essas ações ocorreram após o ministro da Tecnologia da Informação, Ashwini Vaishnaw, instruir os funcionários do MeitY a convocar a Meta sobre anúncios no Instagram supostamente promovendo material de violência sexual infantil. O escrutínio regulatório do ministério ocorreu em meio a uma reportagem da BBC de que o algoritmo de recomendação da Meta poderia ter contribuído para a disseminação de vídeos com material de exploração sexual infantil, revelando graves lacunas nos mecanismos de proteção.
A investigação da BBC também supostamente descobriu anúncios desse tipo no Facebook e Instagram, apesar da proibição clara da política de anúncios da Meta sobre nudez e conteúdo sexual explícito. Alega-se que o Instagram exibia anúncios pagos com termos como 'rape video' e 'child video', que direcionavam os usuários para canais do Telegram, onde tal conteúdo supostamente era vendido.
Em seu blog de terça-feira, a Meta afirmou que o processo de verificação de anúncios combina sistemas automatizados com revisão humana para detectar e remover anúncios que violam as políticas, reconhecendo que nenhum sistema pode detectar cada violação. Os anúncios são verificados antes de serem exibidos e continuam sob monitoramento constante e repetido, e os usuários também podem relatar supostas violações.
A empresa também monitora o comportamento dos anunciantes, além dos anúncios individuais, e pode rejeitar anúncios ou restringir contas de negócios, páginas e contas de usuário que violem suas regras. A Meta enfatizou que continua a fortalecer seus sistemas de verificação de anúncios e aplicação da lei para excluir participantes desonestos de suas plataformas e proteger melhor os usuários.
Enfatizando sua política de tolerância zero para este problema, a Meta declarou que possui regras detalhadas e robustas contra nudez infantil, abusos e exploração, que incluem a distribuição ou busca de imagens relacionadas à exploração infantil, interação inadequada com adolescentes e sexualização de menores. De acordo com seus Padrões de Anúncios, todos os anúncios devem estar em conformidade com os Padrões da Comunidade da Meta sobre exploração sexual infantil, abusos e nudez, e não devem conter conteúdo que explore ou coloque em perigo crianças sexualmente.
A Meta relata casos de exploração infantil às autoridades policiais através do National Center for Missing & Exploited Children (NCMEC), publica relatórios globais e específicos da Índia de transparência, e nomeou oficiais de conformidade legal (Chief Compliance Officer, Complaint Officer e Point of Contact) de acordo com as regras de TI da Índia. A empresa colabora com o setor e as autoridades policiais para combater a exploração infantil online fora de suas próprias plataformas, apoiando os esforços do setor e participando do programa Lantern da coalizão tecnológica para troca de inteligência sobre contas predadoras.
Após receber uma notificação do governo, a Meta anunciou na terça-feira a implementação de um novo conjunto de medidas destinadas a combater a exploração infantil em todas as suas plataformas. Essas ações foram tomadas sob pressão do governo indiano, que anteriormente havia feito uma observação sobre anúncios no Instagram contendo material alegado de abuso sexual infantil.
Em seu blog, a Meta informou que, antes mesmo da divulgação pública do problema, a empresa já havia detectado e desativado vários anúncios e contas infratoras. Uma investigação subsequente levou à remoção de mais materiais publicitários, ao bloqueio de um maior número de contas e à proibição de URLs associados a conteúdo que viola as políticas.
A Meta utiliza ferramentas avançadas de inteligência artificial para identificar contas que disseminam links suspeitos fora da plataforma, bem como outros sinais relacionados à exploração infantil. A empresa esclareceu que, apenas nos últimos seis meses na Índia, 160.000 contas foram removidas graças a essas medidas.
A empresa refutou alegações de que seus sistemas de publicidade visavam intencionalmente usuários com interesse inadequado em crianças. A Meta afirmou que suas tecnologias são capazes de reconhecer comportamentos suspeitos e que, no ano passado, removeu mais de quatro milhões de contas em todo o mundo devido a atividades potencialmente suspeitas relacionadas a crianças.
Para verificar anúncios e monitorar o comportamento dos anunciantes, a empresa combina sistemas automatizados com verificação manual. Empresas que violam os padrões da comunidade ou de publicidade da Meta podem enfrentar restrições ou bloqueio total de anúncios nas plataformas da Meta.
Além disso, a Meta destacou seus investimentos no desenvolvimento de inteligência artificial para melhorar o controle de conteúdo. Agora, os sistemas de IA da empresa suportam moderação nos idiomas falados por 98% dos usuários da internet. A empresa reafirmou seu compromisso com a cooperação com as autoridades policiais e parceiros do setor, continuando a investir em novas tecnologias, compartilhamento de informações de inteligência e fortalecimento das medidas de proteção infantil online.
O governo indiano enviou na noite de sábado um aviso severo à empresa Meta, exigindo o desligamento imediato de todos os anúncios pagos e conteúdo no Instagram que promova ou facilite o acesso a materiais relacionados à exploração e violência sexual infantil (CSEAM).
O Ministério da Eletrônica e Tecnologia da Informação (MeitY) concedeu à Meta sete dias para fornecer uma explicação detalhada sobre como tal publicidade pôde aparecer no Instagram, quais verificações foram realizadas antes do lançamento e quais medidas corretivas foram tomadas.
De acordo com fontes governamentais, esses anúncios publicitários supostamente eram usados para direcionar usuários a plataformas externas onde havia material ilegal sobre violência sexual infantil. O Ministério exigiu que o Instagram bloqueasse imediatamente todos esses anúncios e conteúdo relacionado, além de implementar mecanismos de proteção para prevenir incidentes semelhantes no futuro.
O governo está tratando este assunto com a máxima seriedade, especialmente em relação à alegada 'amplificação algorítmica' de conteúdo de exploração sexual em uma grande plataforma de mídia social. Funcionários oficiais observaram que as promoções pagas devem passar por um controle mais rigoroso do que as publicações comuns dos usuários, e a empresa deve explicar por que seus sistemas de moderação não conseguiram detectar tal conteúdo.
Um representante da Meta declarou que a empresa adota o princípio de 'tolerância zero' a pedidos ou disseminação de CSEAM, incluindo-o em anúncios. Ele acrescentou que a empresa utiliza tecnologias avançadas de inteligência artificial para identificar proativamente conteúdo violador e indivíduos, mas luta constantemente contra criminosos que se escondem entre os 3,5 bilhões de usuários e tentam evitar detecção. Portanto, equipes especializadas estão trabalhando para melhorar a proteção, desenvolver novas tecnologias para identificar predadores, bloquear links para sites proibidos e trocar informações com outras empresas para ações conjuntas.
Este aviso foi enviado após relatos de que anúncios no Instagram estavam sendo usados na Índia para promover materiais sobre violência sexual infantil.
