Adam Mosseri, chefe do Instagram, declarou que o conteúdo gerado por inteligência artificial não deveria ser exibido para usuários que não demonstram interesse por ele. O executivo defende que o algoritmo da plataforma deve ser adaptado para respeitar essa preferência, embora descarte a possibilidade de simplesmente bloquear todo o conteúdo de IA na rede social.
Com a proliferação de materiais criados por IA nos últimos anos, não há atualmente um mecanismo simples para que os usuários ocultem esse tipo de conteúdo. Mosseri explicou em uma entrevista ao podcast de Lenny Rachitsky que o objetivo da Meta é aprimorar a capacidade de identificar vídeos e imagens gerados por IA, permitindo que os próprios sistemas de recomendação compreendam o nível de interesse do usuário.
Mosseri já havia admitido publicamente que o feed do Instagram passou a não refletir os interesses reais dos usuários devido ao crescente poder do algoritmo. Essa observação surgiu após a expansão da funcionalidade "Seu algoritmo", que mostra aos usuários os tipos de publicações que a tecnologia considera relevantes e oferece a opção de diminuir a visibilidade de certos temas, ainda que não impeça totalmente a entrega de conteúdos específicos.
Segundo Mosseri, a detecção de conteúdo de IA está se tornando progressivamente mais complexa à medida que os modelos de linguagem evoluem. Por essa razão, ele propôs que o Instagram pudesse adotar respostas menos definitivas sobre a origem de uma mídia. Em vez de categorizar rigidamente se algo foi ou não feito por IA, a rede poderia indicar níveis de confiança, como "provavelmente sim", "não temos certeza" ou "definitivamente não".
Atualmente, a plataforma dispõe de um sistema de sinalização para o uso de ferramentas generativas, assim como concorrentes como YouTube e TikTok. Essas publicações podem exibir uma notificação "Informações de IA" no feed, que detalha que o conteúdo "pode ter sido criado por IA". O pop-up esclarece que este sinal geralmente se aplica a conteúdo integralmente gerado por IA, e não apenas modificado com auxílio de IA.
Durante o podcast, o executivo apresentou duas ideias principais. A primeira consiste em criar um espaço dedicado para segregar conteúdos gerados inteiramente por IA — incluindo spam, montagens fraudulentas e outro "lixo de IA" — daqueles posts que utilizaram ferramentas criativas de edição ou remix de conteúdo.
A Meta já experimentou conceitos semelhantes no aplicativo Meta AI, apresentando feeds de imagens geradas pelos modelos da empresa e até mesmo um formato de Reels com vídeos sintéticos. A segunda proposta, defendida por Mosseri desde dezembro do ano anterior, é a implementação de uma certificação para conteúdos autênticos. O argumento é que seria mais simples atestar a procedência de uma fotografia real do que comprovar o uso de IA.
Grandes corporações de IA que desenvolvem modelos de imagem e vídeo, como OpenAI, Google, Microsoft e a própria Meta, estão utilizando certificados digitais, como o C2PA, e marcas invisíveis nos conteúdos, como o SynthID. Essas marcas são geradas pelas próprias ferramentas para auxiliar na identificação. Além da declaração feita pelo usuário no momento da postagem, o Instagram consegue ler essas informações para alertar sobre o possível uso de IA. Contudo, essa prática ainda não é padronizada e não é impossível contornar ou remover tais identificações.
