Adam Mosseri, chefe do Instagram, admitiu que a plataforma ainda não possui uma solução eficaz para lidar com perfis que utilizam deepfakes criados por inteligência artificial para replicar conteúdo. Essa questão tem sido reportada a ele por criadores dentro do próprio Instagram, conforme noticiado pelo jornal britânico The Independent.
Um dos casos noticiados envolveu o comediante norte-americano George Brett Olson, que identificou uma conta utilizando um avatar feminino gerado por IA no lugar dele em uma de suas apresentações. Embora o áudio e o texto originais fossem mantidos, a imagem foi substituída por este deep fake.
O executivo da rede social manifestou grande preocupação com essa prática, mas optou por não proibir totalmente conteúdos produzidos com a tecnologia, indicando que discutirá possíveis medidas junto à equipe da plataforma.
Olson relatou que esse tipo de material tem surgido em outras áreas, como perfis que usam vídeos de dançarinos como base para criar gravações onde personagens de IA reproduzem coreografias.
O perfil que imitou a apresentação do comediante possuía mais de 300 mil seguidores e direcionava os usuários para uma página no OnlyFans. Outra conta, mencionada pela comediante Julia Jasunas, contava com aproximadamente 250 mil seguidores.
Mosseri respondeu diretamente à postagem de Olson no Instagram, afirmando que a Meta está atenta a esses perfis, mas que uma restrição ampla ao conteúdo de IA não seria viável. Ele justificou que "vai ficar cada vez mais difícil de identificar, e nem todo conteúdo é ruim, embora haja muito lixo".
Além disso, Mosseri declarou que o Instagram planeja direcionar mais tráfego para os criadores originais e reconheceu a necessidade da plataforma de definir como proceder quando os conteúdos são cópias exatas das produções desses autores. Ele citou exemplos em redes concorrentes, como o X, de Elon Musk, que alterou seu algoritmo de recomendação para restringir o alcance de conteúdo copiado e modificou o sistema de monetização para favorecer criações inéditas.
Em outro comentário, Mosseri tratou das ferramentas disponíveis para solicitar a remoção de materiais. A plataforma oferece denúncias por infração de direitos autorais, mas o executivo observou que esse mecanismo nem sempre resolve as situações levantadas pelos criadores.
Segundo ele, muitos criadores podem não ter adotado procedimentos formais para proteger seus trabalhos, e a rede precisa encontrar um meio de "ajudar esses criadores sem permitir que agentes mal-intencionados façam mais denúncias falsas", algo que, segundo Mosseri, "acontece o tempo todo".
Anteriormente, Mosseri havia debatido o dilema do tratamento da IA na plataforma. Ele já havia dito que conteúdos gerados por inteligência artificial não deveriam ser exibidos para quem não demonstrasse interesse neles, mas negou que os usuários tivessem controle para bloqueá-los, mantendo essa função sob responsabilidade do algoritmo.