Novos esquemas de venda de produtos baseados em conteúdo de vídeo estão ganhando popularidade na China. Esses vídeos frequentemente provocam uma forte reação emocional nos espectadores, incentivando-os a ajudar, mas descobre-se que os personagens neles não são pessoas reais, mas sim criados com inteligência artificial (IA).
Um personagem virtual chamado 'Xiaohai' chamou a atenção. Seus vídeos são distribuídos em plataformas chinesas de vídeos curtos. Nesses vídeos, é retratado uma criança de família pobre vivendo com seu pai, sem a mãe. Os roteiros incluem momentos como falta de dinheiro e dificuldades na escola. Xiaohai frequentemente demonstra sua vulnerabilidade, falando sobre a falta de fundos para comida ou mostrando-se sozinho em um banco escolar.
Para estabelecer uma conexão emocional com o espectador, ele se dirige às mulheres chamando-as de 'tia' e 'mãe'. Os espectadores, acreditando que ele é uma criança real, expressam simpatia e dão conselhos. No entanto, este menino é uma figura fictícia criada por IA.
O objetivo desses vídeos não é apenas demonstrar histórias trágicas. De acordo com relatórios, após conquistar a confiança do público através de narrativas semelhantes, os espectadores são ativamente persuadidos a comprar vários produtos. Xiaohai anuncia desde itens do dia a dia até cosméticos e outros produtos. Quando as pessoas se envolvem emocionalmente em sua história, elas começam a adquirir os produtos oferecidos. Alguns relatórios indicam que os produtos vendidos através dessas contas podem custar mais do que produtos similares em outras plataformas online.
Assim, é utilizado o método de obter compaixão através de histórias tristes, e então esse contato emocional é monetizado pela venda de produtos. Em alguns vídeos, o personagem de IA é apresentado como se estivesse trabalhando arduamente para ajudar sua família.
O aspecto mais surpreendente foi que algumas pessoas acreditaram na autenticidade deste personagem fictício. Segundo relatos, um idoso de 79 anos foi parado durante uma viagem de trem na China. Ele estava indo para a província de Yuncheng, Shanxi, para encontrar Xiaohai. Funcionários da polícia ferroviária explicaram-lhe que a criança no vídeo não era real, mas sim um personagem virtual criado por IA, e aconselharam-no a voltar.
Este incidente destaca que nem toda história comovente nas redes sociais é verdadeira; muitos vídeos podem ser construídos para evocar no espectador a sensação de desgraça real. Mesmo quando alguns vídeos exibem um rótulo de que foram criados com IA, muitos usuários continuam considerando a história e o personagem como verdadeiros, especialmente aqueles que não estão bem informados sobre os métodos de criação de vídeos com IA. Segundo alguns dados, medidas foram tomadas contra tais contas: algumas removeram seus vídeos, e outras fecharam suas lojas online, embora vídeos semelhantes continuem a aparecer.
A razão da popularidade viral desses materiais reside no uso das emoções. Quando uma criança solitária, pobre ou em apuros é mostrada, isso gera simpatia. O uso de palavras como 'tia' e 'mãe' intensifica o sentimento de conexão nos espectadores. Deste caso, conclui-se a necessidade de verificar a veracidade de qualquer história comovente nas redes sociais antes de fazer compras. Como agora é possível criar vídeos indistinguíveis da realidade com IA, é crucial estudar a informação por trás do vídeo, em vez de confiar cegamente nele.