Cientistas desenvolvem nova IA para identificar deepfakes com alta precisão

Os pesquisadores relatam que este sistema conseguiu detectar manipulações que escaparam aos detectores já existentes, marcando um progresso significativo na criação de ferramentas mais eficientes contra conteúdos falsificados.

Contexto dos Deepfakes

Os especialistas apontam que a IA generativa já produz imagens e vídeos quase indistinguíveis de gravações reais para o olho humano. Embora esta tecnologia possua usos benéficos, ela também aumenta os riscos de fraudes, roubo de identidade e disseminação de desinformação, tornando o desenvolvimento de métodos confiáveis para identificá-los uma prioridade na pesquisa de IA.

Limitações dos Métodos Anteriores

Os autores explicam que os detectores de deepfake mais precisos atuais geralmente usam aprendizado supervisionado, treinados com vastos bancos de dados de vídeos autênticos e adulterados. Contudo, este modelo pode sofrer de overfitting, aprendendo características específicas de certos métodos de falsificação e perdendo eficiência contra técnicas novas.

Em contraste, os métodos autossupervisionados treinam-se apenas com vídeos verdadeiros, sendo mais resistentes a novas tecnologias, mas tipicamente apresentando menor exatidão. A nova técnica proposta é a primeira abordagem autossupervisionada que consegue unir alta taxa de detecção com robustez, superando os métodos supervisionados vigentes.

Análise Facial Versus Áudio

Ao invés de buscar inconsistências em pixels ou outros artefatos visuais, o sistema concentra sua análise nos movimentos naturais do rosto. Ele utiliza o modelo FLAME, comum em animação facial e computação gráfica, que descreve expressões faciais através de 53 parâmetros matemáticos.

Durante o desenvolvimento, os pesquisadores pré-treinaram o modelo com mais de 450 horas de vídeos públicos. Com este material, o modelo aprendeu a antecipar quais movimentos faciais seriam naturalmente esperados a partir de uma trilha sonora específica. Após este treinamento inicial, o sistema pode ser personalizado para um indivíduo usando apenas cerca de 60 segundos de vídeo, funcionando como um detector personalizado de deepfakes.

Na fase de análise, o software compara os movimentos faciais observados no vídeo com aqueles previstos com base na fala. Diferenças notáveis entre esses dois conjuntos de dados são interpretadas como fortes sinais de manipulação. Vladislav Golyanik declarou que a união do aprendizado autossupervisionado com a análise facial baseada no FLAME confere à abordagem uma resistência especial contra novos métodos de geração de deepfake, além de distorções como ruído ou compressão de imagem.

Resultados em Testes Rigorosos

Nos testes conduzidos pela equipe, o método alcançou uma precisão média acima de 95% em vários conjuntos de dados científicos de referência, superando o desempenho das técnicas consideradas de ponta. Um desafio considerável foi a avaliação em um conjunto de dados criado pelos próprios pesquisadores, contendo vídeos gerados pelo Sora 2, ferramenta de geração de vídeos da OpenAI.

Enquanto detectores anteriores apresentavam resultados próximos ao acaso, o novo sistema identificou corretamente quase 95% dos vídeos manipulados. Apesar desses avanços, os pesquisadores alertam que a tecnologia ainda tem limitações, pois requer um extenso pré-treinamento em hardware potente e, no momento, não opera em tempo real.