В Китае набирают популярность новые схемы продаж товаров, основанные на видеоконтенте. Эти видео часто вызывают сильный эмоциональный отклик у зрителей, побуждая их помогать, однако выясняется, что персонажи в них являются не реальными людьми, а созданными с помощью искусственного интеллекта (AI).
В центре внимания оказался виртуальный персонаж по имени «Сяохай» (Xiaohai). Его видео распространяются на китайских платформах для коротких роликов. В этих роликах изображается ребенок из бедной семьи, живущий с отцом, при этом отсутствует мать. В сюжетах фигурируют такие моменты, как нехватка денег и трудности в школе. Сяохай часто демонстрирует свою беспомощность, рассказывая о недостатке средств на еду или показывая себя одиноким за школьной партой.
Чтобы установить эмоциональную связь со зрителем, он обращается к женщинам, называя их «тетя» и «мама». Зрители, принимая его за настоящего ребенка, выражают ему сочувствие и дают советы. Однако этот мальчик является вымышленным образом, созданным с помощью ИИ.
Целью этих видео является не только демонстрация трагических историй. Согласно отчетам, после завоевания доверия аудитории через подобные сюжеты, зрителей начинают активно убеждать покупать различные товары. Сяохай рекламирует как повседневные предметы, так и косметику и другие продукты. Когда люди эмоционально вовлекаются в его историю, они начинают приобретать предлагаемые им товары. Некоторые отчеты указывают, что продукция, продаваемая через эти аккаунты, может стоить дороже аналогичных товаров на других онлайн-площадках.
Таким образом, используется метод получения сочувствия через печальные истории, а затем этот эмоциональный контакт монетизируется путем продажи товаров. В некоторых видео ИИ-персонаж представлен так, будто он усердно трудится, чтобы помочь своей семье.
Наиболее поразительным аспектом стало то, что некоторые люди поверили в подлинность этого вымышленного персонажа. По сообщениям, в Китае пожилой человек в возрасте 79 лет был остановлен во время поездки в поезде. Он направлялся в Юнчэн провинции Шаньси, чтобы встретиться с Сяохаем. Сотрудники железнодорожной полиции объяснили ему, что ребенок в видео не настоящий, а является виртуальным персонажем, созданным с помощью ИИ, и посоветовали ему вернуться обратно.
Этот инцидент подчеркивает, что не всякая трогательная история в социальных сетях является правдой; многие видео могут быть сконструированы таким образом, чтобы вызвать у зрителя ощущение реальной беды. Даже если на некоторых видео присутствует маркировка о том, что они созданы с помощью ИИ, многие пользователи продолжают считать историю и персонажа правдивыми, особенно тем, кто недостаточно осведомлен о методах создания видео с помощью ИИ. По некоторым данным, в отношении подобных аккаунтов предпринимались меры: некоторые удалили свои видео, а другие закрыли свои интернет-магазины, хотя схожие видео продолжают появляться.
Причина вирусной популярности таких материалов кроется в использовании эмоций. Когда показывается ребенок, который одинок, беден или находится в беде, это вызывает симпатию. Использование таких слов, как «тетя» и «мама», усиливает чувство связи у зрителей. Из этого случая следует вывод о необходимости проверять достоверность любой трогательной истории в социальных сетях перед совершением покупок. Поскольку теперь возможно создание видео, неотличимых от реальности с помощью ИИ, крайне важно изучать информацию, стоящую за видео, вместо того чтобы слепо доверять ему.