Pesquisadores descobriram que imagens de rostos criadas por inteligência artificial (IA) são percebidas como mais confiáveis do que fotos de rostos verdadeiros, levantando preocupações sobre os riscos de fraudes digitais e outros prejuízos.
Primeiro estudo com tecnologia de difusão
Esta investigação é pioneira ao analisar a credibilidade de rostos de IA produzidos utilizando a mais recente tecnologia de difusão. A pesquisa contou com a liderança de Alexis McGuire, juntamente com Paul Taylor e Sophie Nightingale, da Universidade de Lancaster; Maty Bohacek, da Universidade de Stanford; e Hany Farid, da Universidade da Califórnia, Berkeley.
Riscos de engano por imagens de IA
Alexis McGuire, doutoranda em Psicologia, alertou ao Phys.org que a pesquisa demonstra que indivíduos estão sujeitos a serem iludidos por imagens geradas por IA. Ela explicou que esses modelos de IA tornaram o ambiente online mais acessível, permitindo que qualquer pessoa crie rostos falsos sem necessidade de conhecimento técnico, podendo ser usados para vários tipos de danos.
McGuire enfatizou a importância de educar o público sobre a facilidade de criação dessas imagens e seus usos inadequados, citando exemplos como a disseminação de notícias falsas, fraude de identidade e catfishing. Enquanto os seres humanos são habilidosos em processar rostos autênticos, avaliando-os em meros 100 milissegundos, os rostos sintéticos de IA estão se tornando extremamente realistas e mais confiáveis, com novas tecnologias conseguindo enganar as pessoas aproximadamente um terço das vezes.
Detalhes dos experimentos realizados
Em um teste inicial, 169 participantes observaram uma coleção de 96 rostos (variados em etnia, sexo e idade) apresentados aleatoriamente, tendo que determinar se cada um era real ou sintetizado por IA. A acurácia média alcançada pelos participantes foi de 58,4%, um resultado apenas marginalmente superior ao acaso (que seria 50%).
Curiosamente, os rostos gerados pelo modelo de difusão de IA mais atual (DM) foram classificados como menos realistas em comparação com aqueles criados por um modelo de IA anterior (GAN). Em um experimento posterior, um novo grupo avaliou a credibilidade de 96 rostos em uma escala de um (muito não confiável) a sete (muito confiável).
Os rostos reais obtiveram a menor pontuação de confiança, com uma média de 4,03. Contudo, ambos os tipos de rostos sintéticos de IA foram julgados como mais confiáveis que os rostos reais. Especificamente, os rostos produzidos pelo modelo de difusão (DM) foram considerados mais confiáveis tanto que superaram os rostos reais e os rostos GAN. Os rostos GAN atingiram uma média de confiança de 4,36, enquanto os rostos sintetizados por difusão (DM) foram os mais confiáveis, com uma média de 4,70.
O paradoxo psicológico descoberto
Os pesquisadores consideram intrigante o fato de os rostos criados pelo modelo DM mais recente terem sido percebidos como menos realistas que os do modelo GAN anterior, mas, ainda assim, terem sido considerados os mais confiáveis. McGuire apontou que este achado revela um paradoxo e sugere que os critérios de realismo e confiabilidade podem ser influenciados por dois processos psicológicos distintos.
Ela advertiu que os rostos de IA gerados pela tecnologia DM poderiam levar a uma deterioração geral da confiança social. Segundo ela, à medida que as imagens de IA se tornam mais avançadas e acessíveis, a sociedade fica cada vez mais exposta a rostos artificiais, frequentemente em contextos prejudiciais e exploratórios, como desinformação política, fraude financeira e de identidade, e catfishing. Por isso, é crucial entender a ameaça que a democratização da IA generativa representa e desenvolver métodos para diminuir os danos potenciais a indivíduos, organizações e democracias.
Divulgação e convite à participação
A pesquisa foi publicada no Journal of Vision sob o título “AI-Generated Faces are Becoming More Trustworthy”. Qualquer pessoa interessada pode participar de um estudo online anônimo chamado “Examining Individual Differences in the Detection of Real and AI-generated Faces”, onde será solicitada a avaliação de rostos como reais ou gerados por IA, além de respostas a outras questões sobre seu nível de confiança, culminando em uma pontuação final.