Исследование показывает, что люди больше доверяют поддельным лицам, сгенерированным ИИ, чем реальным человеческим лицам

Исследователи обнаружили, что изображения лиц, созданные искусственным интеллектом (ИИ), воспринимаются как более надежные, чем фотографии настоящих лиц, что вызывает опасения по поводу рисков цифрового мошенничества и других потерь.

Первое исследование с использованием диффузионной технологии

Это исследование является новаторским, поскольку оно анализирует достоверность лиц ИИ, созданных с использованием новейшей диффузионной технологии. В исследовании приняли участие Алексис МакГвайр, а также Пол Тейлор и Софи Найтингейл из Университета Ланкастера; Мати Бохачек из Стэнфордского университета; и Хани Фарид из Калифорнийского университета в Беркли.

Риски обмана с помощью изображений ИИ

Алексис МакГвайр, аспирантка в области психологии, предупредила Phys.org, что исследование показывает, что люди подвержены обману со стороны изображений, сгенерированных ИИ. Она объяснила, что эти модели ИИ сделали онлайн-среду более доступной, позволив любому человеку создавать поддельные лица без необходимости специальных технических знаний, которые могут использоваться для различных видов вреда.

МакГвайр подчеркнула важность просвещения общественности о легкости создания таких изображений и их ненадлежащем использовании, приводя примеры распространения фейковых новостей, мошенничества с личными данными и фишинга. В то время как люди умеют обрабатывать аутентичные лица, оценивая их всего за 100 миллисекунд, синтетические лица ИИ становятся чрезвычайно реалистичными и более надежными, причем новые технологии способны обмануть людей примерно в трети случаев.

Подробности проведенных экспериментов

В начальном тесте 169 участников наблюдали коллекцию из 96 лиц (различных по этнической принадлежности, полу и возрасту), представленных случайным образом, и должны были определить, являются ли они реальными или синтезированными ИИ. Средняя точность, достигнутая участниками, составила 58,4%, что лишь незначительно выше случайного угадывания (50%).

Интересно, что лица, сгенерированные самой современной моделью диффузии ИИ (DM), были классифицированы как менее реалистичные по сравнению с теми, что были созданы предыдущей моделью ИИ (GAN). В последующем эксперименте новая группа оценила достоверность 96 лиц по шкале от одного (очень ненадежный) до семи (очень надежный).

Настоящие лица получили наименьший балл доверия, со средним показателем 4,03. Однако оба типа синтетических лиц ИИ были признаны более надежными, чем реальные лица. В частности, лица, созданные моделью диффузии (DM), были сочтены настолько надежными, что превзошли как реальные лица, так и лица GAN. Лица GAN достигли среднего уровня доверия 4,36, в то время как лица, синтезированные диффузией (DM), оказались наиболее надежными со средним показателем 4,70.

Обнаруженный психологический парадокс

Исследователи находят интригующим тот факт, что лица, созданные самой последней моделью DM, были восприняты как менее реалистичные, чем лица предыдущей модели GAN, но тем не менее считались наиболее надежными. МакГвайр отметила, что это открытие выявляет парадокс и предполагает, что критерии реализма и надежности могут зависеть от двух различных психологических процессов.

Она предупредила, что лица ИИ, сгенерированные технологией DM, могут привести к общему снижению социального доверия. По ее словам, по мере того как изображения ИИ становятся более продвинутыми и доступными, общество все больше подвергается воздействию искусственных лиц, часто в пагубных и эксплуататорских контекстах, таких как политическая дезинформация, финансовое и личностное мошенничество и фишинг. Поэтому крайне важно понять угрозу, которую представляет демократизация генеративного ИИ, и разработать методы для уменьшения потенциального ущерба для отдельных лиц, организаций и демократий.

Публикация и приглашение к участию