Uma ferramenta desenvolvida pela Meta para detectar imagens geradas por inteligência artificial demonstrou falhas ao tentar identificar suas próprias criações após serem submetidas a um corte simples, conforme apurado pela Reuters.
Resultados do teste com imagens geradas
O teste envolveu 40 imagens produzidas pelo Muse Image, o mais recente modelo de geração de imagens da companhia. Inicialmente, a ferramenta conseguiu identificar corretamente todas as 40 imagens originais. Contudo, quando essas mesmas imagens foram reduzidas a cerca de um terço ou metade do seu tamanho original através de um recorte, o detector falhou em 55% dos casos.
Funcionamento e limitações do sistema
A Meta explica que seu sistema de detecção utiliza uma marca d'água invisível denominada Content Seal, que é incorporada em cada imagem gerada pelo Muse Image. Essa tecnologia foi concebida para possibilitar aos usuários verificar se uma imagem foi criada pelos modelos de IA da empresa, mesmo após sofrer edições usuais.
Ao ser questionada sobre os achados da análise da Reuters, a Meta ressaltou que a ferramenta ainda se encontra em fase de prévia. A empresa admitiu que a marca d'água foi projetada para suportar edições comuns, mas reconheceu que o sinal pode ser perdido em cortes muito drásticos.
Opiniões de especialistas em IA
Siwei Lyu, professor de ciência da computação na Universidade Estadual de Nova York em Buffalo e especialista em forense de imagens de IA, comentou à Reuters que os sistemas que dependem de marcas d'água possuem restrições conhecidas. Ele afirmou que, embora métodos baseados em marca d'água sejam muito eficazes quando o sinal permanece íntegro, qualquer alteração que enfraqueça ou remova esse sinal — como compressão pesada, redimensionamento ou recorte — pode diminuir sua performance, dependendo do design da marca d'água.
Por sua vez, Sarah Barrington, doutoranda em IA na Escola de Informação da UC Berkeley, concordou com as limitações, mas argumentou que, assim como outras medidas de segurança cibernética ou física, ela não pode ser totalmente infalível. Ela acrescentou que, mesmo que a detecção atinja apenas 90% dos casos, isso representa um avanço significativo comparado a uma taxa de zero.
Contexto regulatório e concorrência
Esta descoberta surge em um período sensível, visto que o ano inclui as eleições de meio de mandato nos Estados Unidos, momento em que a disseminação de imagens manipuladas e deepfakes tende a crescer. Em março, o Conselho de Supervisão da Meta, um órgão independente responsável por decisões vinculativas sobre moderação de conteúdo, solicitou à empresa que intensificasse os esforços contra a proliferação de conteúdo enganoso gerado por IA em suas plataformas e investisse em ferramentas de detecção mais robustas.
A Meta não enfrenta este desafio isoladamente; tanto o Google quanto a OpenAI também emitiram alertas públicos de que suas próprias ferramentas de detecção não são imunes a técnicas de manipulação de imagens.
