A detecção de deepfakes é por si só uma tarefa complexa, e explicar por que uma imagem é falsa é ainda mais difícil. Pesquisadores do Instituto de Optônica, Sistemas e Análise de Imagens do Fraunhofer (IOSB) na Alemanha desenvolveram uma ferramenta que resolve ambos os problemas, atingindo um nível de detecção de 85% a 91%, de acordo com o instituto.
Esta ferramenta chama-se RealorRender e foi criada em colaboração com a Agência Federal de Segurança da Informação da Alemanha (BSI), que também financia este projeto.
Como funciona
A abordagem aplicada é híbrida e inovadora. Em vez de usar apenas um classificador tradicional de aprendizado profundo, o RealorRender combina dois métodos. Primeiro, um gerador de imagens baseado em inteligência artificial tenta recriar a imagem analisada. Quanto mais bem-sucedida for a reconstrução, maior a probabilidade de a imagem original ter sido criada por IA, pois a IA reproduz mais facilmente conteúdo criado por outra IA.
Em seguida, o modelo de classificação calcula o erro de reconstrução e fornece uma pontuação de autenticidade em porcentagem. Andreas Specker, pesquisador sênior do grupo de pesquisa em sistemas de segurança e assistência de vídeo do Fraunhofer IOSB, explicou em um comunicado: «Primeiro, usamos um gerador de imagens baseado em IA para reconstruir a imagem. Em seguida, o modelo de IA assume a classificação e realiza o cálculo híbrido do erro de reconstrução. No final, obtemos uma pontuação que mostra a precisão de reconhecimento em porcentagem».
Qual a diferença: explicação
A simples detecção não é suficiente. O RealorRender também explica por que classificou a imagem como falsa, utilizando métodos de IA explicável (XAI). Nadia Burkart, líder do grupo de IA explicável no Fraunhofer IOSB, observou em um comunicado: «Texturas características ou padrões de frequência específicos podem indicar uma origem sintética da imagem. O XAI ajuda a mostrar quais características o modelo usa ao tomar uma decisão».
A ferramenta aplica dois tipos de visualização: mapas de calor, que destacam as áreas da imagem que mais influenciaram a decisão do modelo, e análise de segmentação, que identifica zonas semânticas específicas (como rosto, cabelo ou fundo) que indicam origem artificial.
Por que isso é importante
O problema que o RealorRender procura resolver é de grande escala. Em 2025, fraudes relacionadas a deepfakes ultrapassaram 1,5 bilhão de dólares em todo o mundo. Uma investigação realizada em 2023 identificou 276.149 deepfakes sexuais em um site especializado, 96% dos quais retratavam mulheres.
É extremamente difícil para as pessoas distinguir imagens autênticas de falsificações. Embora existam ferramentas automatizadas, elas raramente fornecem explicações de seus resultados, o que limita sua utilidade para jornalistas, plataformas de redes sociais e serviços de segurança, que precisam justificar decisões de moderação.
Quem pode usar
O RealorRender está integrado em uma versão de demonstração que inicialmente ajudará o BSI a identificar deepfakes. O uso da ferramenta é simples: o usuário carrega a imagem, recebe o resultado da detecção acompanhado de uma explicação e um resumo em texto.
Os pesquisadores publicaram dois relatórios sobre o projeto. A tecnologia é potencialmente aplicável a serviços de segurança, plataformas de redes sociais, empresas de mídia e agências de fotografia.


