Instagram promete remover vídeos de assédio gravados com óculos da Meta

O YouTube implementou alterações em suas diretrizes para enfrentar o crescente volume de vídeos de qualidade inferior produzidos com auxílio de Inteligência Artificial (IA). A plataforma esclarece que não proíbe o uso de IA na criação de vídeos, mas busca atenuar o conteúdo genérico e de baixa qualidade, especialmente aquele produzido rapidamente com ferramentas de IA com o objetivo de obter monetização.

O Problema do Conteúdo Genérico

Este tipo de material tem se tornado extremamente comum, impulsionado pelo avanço da IA, que permite a produção rápida de um fluxo constante de conteúdo considerado "AI slop". Essa prática foi assimilada por alguns como uma fonte de renda extra ou um modelo de empreendedorismo digital, levando à proliferação de cursos sobre como utilizar ferramentas de IA para gerar vídeos com fins lucrativos.

É importante reiterar que o foco do YouTube não é banir a tecnologia, mas sim combater o conteúdo de baixa qualidade. Muitas vezes, esses vídeos são criados de maneira superficial, visando viralizar em redes sociais ao explorar temas sensíveis ou polêmicos, mas apresentando informações rasas, imprecisas ou incorretas.

Estratégia de Combate e Novas Regras

Matt Halprin, representante do YouTube, comentou que, embora a IA possa ser uma ferramenta valiosa para que criadores produzam vídeos de alto nível, ela também possibilita a criação de conteúdos que "são muito genéricos, não têm uma narrativa consistente e não demonstram criatividade", e é este último aspecto que está sendo combatido.

A principal tática adotada envolve a modificação das regras do Programa de Parcerias do YouTube (YPP), que determina a possibilidade de monetização dos criadores. Uma das primeiras mudanças estabelece que o conteúdo classificado como "genérico" — seja ele criado apressadamente por ferramentas de IA ou computação gráfica, ou que simplesmente replica outros vídeos com poucas variações — não receberá monetização.

Restrições Adicionais à Monetização

Além disso, a plataforma restringirá a monetização de vídeos que manipulam sentimentos, como aqueles que simulam resgates de animais ou exibem cenas perturbadoras para provocar indignação e aumentar o compartilhamento ou curtidas. Uma terceira medida visa impedir a monetização de vídeos que utilizam "personas", ou seja, representações de pessoas reais geradas por IA, quando abordam tópicos delicados, como finanças ou saúde.

Embora o YouTube já tentasse lidar com o "AI slop", a atualização das normas de monetização representa um avanço significativo, pois ataca diretamente o incentivo financeiro por trás da criação desse conteúdo de baixa qualidade. Caso essas alterações sejam eficazes, espera-se um benefício duplo: os usuários encontrarão menos vídeos ruins, e os criadores de conteúdo autêntico e de qualidade terão seus trabalhos priorizados na plataforma. Essas modificações nas regras do YPP entraram em vigor em 16 de julho.

O Instagram havia anunciado uma funcionalidade que permitiria a qualquer indivíduo utilizar o rosto de outra pessoa em imagens criadas por inteligência artificial. Para isso, bastaria inserir o nome de usuário da vítima no aplicativo, possibilitando a manipulação fotográfica por IA e a subsequente republicação dos resultados.

Implicações e Configurações Iniciais

Esta novidade seria ativada de maneira automática para todas as contas públicas da plataforma. Para evitar a criação de deepfakes, os usuários teriam duas opções: buscar uma configuração específica, que estava pouco visível nos menus do aplicativo, ou tornar sua conta privada.

Decisão de Recuo da Meta

Inicialmente, o propósito da implementação era fomentar o uso do Muse Image, um novo algoritmo de geração de imagens desenvolvido pelo setor de IA da Meta. Contudo, mesmo considerando os padrões da empresa, a proposta foi considerada excessiva em termos de privacidade. Na noite de sexta-feira (10), a Meta optou por desfazer o lançamento da função.

Em comunicado, a empresa justificou a mudança dizendo: “Nosso objetivo era fornecer uma ferramenta criativa útil, e dar às pessoas controle de decidir se seu conteúdo público poderia ser referenciado [usado] dessa forma. Ouvimos o feedback de que essa função errou o alvo, então ela não está mais disponível”.

Histórico de Questões de Privacidade

Este episódio não é o primeiro caso em que a Meta ativa funcionalidades invasivas automaticamente, seja forçando a aceitação ou ocultando detalhes nos termos de uso de seus produtos e aplicativos. Um escândalo anterior ocorreu em fevereiro, quando colaboradores da Sama, localizada no Quênia, relataram receber vídeos capturados pelos óculos Meta Glasses. Essas gravações continham informações extremamente privadas, como dados bancários, cenas de sexo ou momentos em banheiros.

Após a exposição desse incidente, que causou grande repercussão internacional, a Meta encerrou seu contrato com a Sama. A empresa africana empregava mais de mil pessoas responsáveis pela tarefa de “anotação de dados”; elas recebiam conteúdo capturado pelos dispositivos e aplicativos da Meta para legendagem manual, processo utilizado no treinamento das IAs de reconhecimento de imagem da Meta.

A Meta suspendeu, nesta sexta-feira (10), um novo recurso de inteligência artificial (IA) dentro do Instagram. Esta funcionalidade permitia a criação de imagens baseadas em perfis públicos da plataforma.

Motivos da remoção do recurso

A decisão ocorreu logo após o lançamento da ferramenta, em resposta a uma forte onda de críticas vindas de usuários, artistas e representantes da indústria do entretenimento. As preocupações centravam-se na questão da privacidade e no uso de imagens sem o devido consentimento.

Este recurso fazia parte do lançamento do Muse Image, o gerador de imagens por IA da empresa, que havia sido apresentado na terça-feira (7). De acordo com a Meta, a função era acionada automaticamente para todos os usuários que mantinham perfis abertos no Instagram. Na prática, isso significava que a aparência dessas pessoas podia ser usada para gerar imagens por IA sem que houvesse autorização prévia.

Reconhecimento e feedback da Meta

Diante das reclamações sobre direitos autorais e privacidade, a Meta emitiu um comunicado reconhecendo que a ferramenta não foi bem aceita. A empresa declarou que sua intenção original era oferecer uma ferramenta criativa útil e permitir que as pessoas controlassem se seu conteúdo público seria referenciado dessa maneira. Por isso, o recurso foi retirado do ar.

Reações da indústria e usuários

Pouco tempo após o lançamento, milhares de usuários utilizaram as redes sociais para expressar sua apreensão com a utilização de suas imagens. Muitos começaram a compartilhar dicas sobre como evitar o uso da funcionalidade, como mudar o perfil para privado ou ajustar certas configurações do aplicativo.

A reação também alcançou a indústria do entretenimento nos Estados Unidos. A Creative Artists Agency (CAA), uma das grandes agências de talentos de Hollywood, contatou a Meta em nome de seus clientes, classificando a iniciativa como irresponsável. Em nota divulgada na quarta-feira (8), a CAA enfatizou que os artistas devem ter autonomia para decidir como e se sua imagem e trabalho serão usados, exigindo consentimento e a possibilidade de definir seus próprios termos.

Adicionalmente, o SAG-AFTRA, o maior sindicato de atores dos Estados Unidos, declarou na quinta-feira (9) que a inclusão automática dos usuários no recurso pela Meta representou um «erro completo de avaliação do sentimento público» em relação ao uso de IA.

Disponibilidade do Muse Image e contexto da IA

Apesar da retirada do Instagram, a Meta comunicou que o Muse Image permanece acessível no WhatsApp e no aplicativo Meta AI, que funciona como um chatbot independente da companhia. Outras funcionalidades de IA introduzidas naquela semana para o Instagram continuam operacionais, incluindo filtros exclusivos criados pelo próprio Muse Image.

Este incidente insere-se em uma série de controvérsias ligadas a ferramentas de IA capazes de manipular ou criar imagens. A OpenAI já enfrentou questionamentos similares sobre direitos autorais após lançar o gerador de vídeos Sora em setembro do ano passado. Embora a empresa tenha feito acordos com estúdios para usar conteúdo protegido, ela encerrou o aplicativo em março.

Outra plataforma mencionada é o X, que bloqueou este ano a conta do chatbot Grok após a disseminação de milhões de imagens manipuladas de mulheres e crianças com pouca ou nenhuma vestimenta. Empresas como o Google também foram alvo de críticas relativas à maneira como seus sistemas de IA geram imagens.

Estratégia contínua da Meta em IA

Mesmo com a suspensão da ferramenta no Instagram, a Meta assegurou que seu investimento em IA prossegue. Na quinta-feira, a empresa lançou uma nova versão de seu modelo de IA, o Muse Spark, e anunciou planos de disponibilizar um gerador de vídeos por IA nos próximos meses.