A Meta decidiu remover materiais de vídeo criados com inteligência artificial e direcionados a duas mulheres, incluindo uma política britânica, após o Conselho de Supervisão criticar as medidas de proteção da empresa contra a disseminação de deepfakes, classificando-as como 'fundamentalmente inadequadas'.
No dia anterior, na quinta-feira, o Conselho de Supervisão, um órgão quase independente financiado pela empresa para revisar decisões de moderação, exigiu que a Meta removesse vídeos fabricados de suas plataformas. O Conselho observou que tais casos minam as próprias políticas da Meta relativas a discurso de ódio, desinformação e assédio.
O primeiro vídeo gerado por IA retratava um membro do Partido Trabalhista na Escócia fazendo declarações provocativas sobre refugiados. Não havia registros públicos que confirmassem as declarações do político, e o vídeo apresentava sinais claros de falsificação, incluindo áudio dessincronizado com os movimentos de seu rosto.
O segundo vídeo fabricado foi direcionado a uma ativista muçulmana na Europa. O objetivo era desacreditar seu papel como defensora da saúde através de uma representação falsa de ela consumindo fast food enquanto dava conselhos sobre nutrição consciente e realizava exercícios absurdos.
O Conselho afirmou que as políticas da Meta são 'consistentemente e fundamentalmente inadequadas' para combater o crescente fluxo de conteúdo gerado por IA em suas plataformas, como Facebook e Instagram.
Pamela Sand Martin, copresidenta do Conselho de Supervisão, declarou em seu comunicado: 'De políticos a cidadãos comuns, deepfakes gerados por IA estão sendo cada vez mais usados para perseguir e silenciar mulheres que participam do debate público'. Ela acrescentou que 'esses casos demonstram um padrão mais amplo e preocupante no qual mulheres que atuam publicamente em questões são desproporcionalmente alvo de perseguição e desinformação'.
As decisões do Conselho de Supervisão em casos individuais são obrigatórias para a Meta, mas suas recomendações políticas mais amplas não possuem tal força.
A Meta expressou aprovação à decisão do Conselho em ambos os casos e concordou em cumpri-la em sete dias. Sand Martin enfatizou que 'a Meta e outras plataformas de mídia social precisam de políticas mais robustas para combater a disseminação de deepfakes, incluindo uma abordagem muito mais forte para rotular conteúdo enganoso, penalidades mais rigorosas para infratores e remoção de deepfakes que assediam indivíduos'.
Na semana passada, o conselho pediu à Meta que não substituísse a verificação profissional de fatos pela função 'Notas da Comunidade' (Community Notes) — um modelo baseado em participação coletiva — para refutar informações falsas que se tornaram populares na plataforma X do bilionário Elon Musk. Este pedido veio depois que a Meta anunciou o início do teste das 'Notas da Comunidade' em 16 países de língua espanhola da América Latina como parte de um passo para substituir seu programa de verificação de fatos.