Tadqiqotchilar sun'iy intellekt (SI) tomonidan yaratilgan yuz rasmlari haqiqiy yuz rasmlariga qaraganda ishonchliroq deb qabul qilinishini aniqlashdi, bu raqamli firibgarlik va boshqa zarar xavflari haqida tashvish uyg'otmoqda.
Diffuziya texnologiyasi bilan birinchi tadqiqot
Bu tadqiqot eng so'nggi diffuziya texnologiyasidan foydalanib ishlab chiqarilgan SI yuzlarining ishonchliligini tahlil qilish bo'yicha poyg'a bo'lib, Lancaster universiteti Aleksis McGuire, Paul Taylor va Sophie Nightingale, Stanford universiteti Maty Bohacek hamda Kaliforniya universiteti, Berkeley Hany Farid boshchiligida amalga oshirildi.
SI rasmlari tufayli aldanish xavfi
Psixologiya doktori Aleksis McGuire Phys.org ga shuni ta'kidladiki, tadqiqot shuni ko'rsatadiki, shaxslar SI tomonidan yaratilgan rasmlar bilan aldanishga moyil. U bu SI modellarining onlayn muhitni yanada kirish mumkin qilganini, har qanday odam texnik bilimlarsiz soxta yuzlar yaratishiga imkon berganini va ular turli xil zararlarga ishlatilishi mumkinligini tushuntirdi.
McGuire ushbu rasmlarni yaratishning osonligi va ularning noto'g'ri qo'llanilishi haqida jamoatchilikni o'qitish muhimligini ta'kidlab, yolg'on yangiliklar tarqatilishi, shaxsni firibgarlik qilish va katfishing kabi misollarni keltirdi. Insonlar autentik yuzlarni qayta ishlashda mahoratli bo'lib, ularni atigi 100 millisekund ichida baholaydilar, ammo SI sintetik yuzlari juda realistik va ishonchliroq bo'lib bormoqda, yangi texnologiyalar odamlarni taxminan uchdan bir marta aldashi mumkin.
O'tkazilgan tajribalar tafsilotlari
Dastlabki sinovda 169 nafar ishtirokchi tasodifiy tarzda taqdim etilgan 96 ta yuz (etnik, jins va yosh jihatidan xilma-xil) to'plamini kuzatib, ularning har birining haqiqiy yoki SI tomonidan sintezlanganligini aniqlashlari kerak edi. Ishtirokchilar tomonidan erishilgan o'rtacha aniqlik 58,4% ni tashkil etdi, bu natija tasodifdan (ya'ni 50%) faqat ozgina yuqori edi.
Qiziqarlisi, eng yangi SI diffuziya modeli (DM) tomonidan yaratilgan yuzlar avvalgi SI modeli (GAN) tomonidan yaratilganlarga nisbatan kamroq realistik deb baholandi. Keyingi tajribada yangi guruh 96 ta yuzning ishonchliligini bir (juda ishonchsiz) dan yetti (juda ishonchli) gacha bo'lgan miqyosda baholadi.
Haqiqiy yuzlar eng past ishonch darajasini oldi, o'rtacha 4,03. Biroq, ikkala turdagi SI sintetik yuzlari ham haqiqiy yuzlardan ko'proq ishonchli deb hisoblandi. Xususan, diffuziya modeli (DM) tomonidan ishlab chiqarilgan yuzlar shunchalik ishonchli deb hisoblanganki, ular haqiqiy va GAN yuzlaridan ham ustun keldi. GAN yuzlari o'rtacha 4,36 ishonch darajasiga erishgan, shu bois diffuziya orqali sintezlangan yuzlar (DM) eng ishonchli bo'lib, o'rtacha 4,70 ni tashkil etdi.
Kashf etilgan psixologik paradoks
Tadqiqotchilar eng yangi DM modeli tomonidan yaratilgan yuzlar GAN ning avvalgi modeliga qaraganda kamroq realistik deb qabul qilinganiga qaramay, eng ishonchli deb hisoblanganligi sababli hayratlanishadi. McGuire bu kashf paradoksni ochib beradi va realizm va ishonchlilik mezonlari ikki alohida psixologik jarayonlar bilan ta'sirlanishi mumkinligini taklif qiladi.
U SI texnologiyasi bilan yaratilgan yuzlar umumiy ijtimoiy ishonchning pasayishiga olib kelishi mumkinligini ogohlantirdi. Unga ko'ra, SI rasmlari yanada ilg'or va kirish mumkin bo'lishi bilan jamiyat tobora ko'proq sun'iy yuzlarga duch kelmoqda, ko'pincha siyosiy noto'g'ri ma'lumotlar, moliyaviy va shaxsni firibgarlik qilish va katfishing kabi zararli va ekspluatatsion kontekstlarda. Shuning uchun, generativ SI demokratiklashtirishining tahdidini tushunish va shaxslar, tashkilotlar va demokratiyalarga potentsial zarar yetkazishni kamaytirish usullarini ishlab chiqish muhimdir.
Ma'lumot berish va ishtirok etish taklifi
Tadqiqot «AI-Generated Faces are Becoming More Trustworthy» nomli maqolada Journal of Vision jurnalida nashr etildi. Qiziqqan har qanday shaxs «Real va SI tomonidan yaratilgan yuzlarni aniqlashdagi individual farqlarni o'rganish» nomli anonim onlayn tadqiqotda ishtirok etishi mumkin, bunda yuzlarni haqiqiy yoki SI tomonidan yaratilgan deb baholash, shuningdek, ularning ishonch darajasi haqidagi boshqa savollarga javob berish talab qilinadi, bu esa yakuniy ball bilan tugaydi.