O Instagram implementará novas ações para lidar com perfis que não representam pessoas reais, mas sim avatares desenvolvidos com o suporte de inteligência artificial. A plataforma planeja restringir a visibilidade de contas desse tipo caso elas não forneçam a devida identificação.
A rede social da Meta declarou em seu blog que esta alteração integra os esforços contínuos para aumentar a transparência, esperando que isso ajude os usuários a compreender melhor a origem do conteúdo exibido no Instagram.
A plataforma irá substituir o rótulo atual de “criador de IA” por “perfil gerado com IA”. Esta modificação servirá de base para a implementação de outras diretrizes. De acordo com a empresa, o objetivo é tornar explícito que um perfil possui uma personalidade criada por IA e não um ser humano.
Com a introdução desta nova etiqueta, será estabelecida uma política adicional: o Instagram limitará o alcance de perfis que utilizam figuras humanas geradas por IA sem se identificar adequadamente. Consequentemente, esses perfis deixarão de ser sugeridos a usuários que não os seguem. Os proprietários dessas contas terão a possibilidade de contestar essa decisão.
A nova designação “perfil gerado com IA” será aplicada automaticamente a todos os perfis que anteriormente possuíam o selo “criador de IA”. No entanto, o Instagram oferece a opção de remover este selo se o perfil apresentar um ser humano autêntico.
Influenciadores criados por IA têm ganhado destaque nas mídias sociais. Figuras como Emily Pellegrini e Aitana Lopez atuam como pessoas reais, publicando vídeos ambientados em restaurantes sofisticados, festivais e eventos esportivos. Contudo, este é apenas um aspecto do problema.
As medidas adotadas pelo Instagram ocorrem meses após reportagens exporem como avatares gerados por IA estão sendo empregados para fazer propaganda de produtos na rede. Embora os deepfakes não sejam novidade, eles se tornaram muito mais realistas e sua criação é mais acessível do que nunca.
Uma investigação conduzida pelo Guardian identificou perfis desse tipo promovendo tanto aplicativos quanto marcas de vestuário, sem qualquer sinalização de que o material fosse publicidade.
Adicionalmente, o New York Times descobriu centenas de personas geradas por IA que se disfarçavam de médicos e influenciadores para promover suplementos alimentares e medicamentos, prometendo superioridade sobre tratamentos convencionais. As campanhas visam especificamente mulheres idosas com questões de saúde.
O mesmo jornal também localizou influenciadores reais que demonstram como essas campanhas são elaboradas, bem como uma empresa chinesa especializada em produzir esse tipo de conteúdo com auxílio tecnológico.