Deepfake'larni aniqlash o'zi murakkab vazifa bo'lib, tasvirning nima uchun soxta ekanligini tushuntirish yanada qiyinroq. Germaniyadagi Fraunhofer Instituti optronika, tizimlar va tasvirlarni tahlil qilish (IOSB) tadqiqotchilari ikkala muammoni hal qiladigan asbobni ishlab chiqdilar va institut ma'lumotlariga ko'ra, aniqlash darajasini 85% dan 91% gacha yetkazishdi.
Bu asbob RealorRender deb nomlangan va Germaniya Federal axborot xavfsizlik agentligi (BSI) hamkorligida yaratilgan bo'lib, u ushbu loyihaga moliyalashtirmoqda.
Qanday ishlaydi
Qo'llanilgan yondashuv gibrid va innovatsiondir. Faqat an'anaviy chuqur o'rganish klassifikatori dan foydalanish o'rniga, RealorRender ikkita usulni birlashtiradi. Birinchidan, sun'iy intellektga asoslangan tasvir generatori tahlil qilingan tasvirni qayta tiklashga harakat qiladi. Rekonstruksiya qanchalik muvaffaqiyatli bo'lsa, asl tasvir AI tomonidan yaratilgan bo'lish ehtimoli shuncha yuqori bo'ladi, chunki AI boshqa AI tomonidan yaratilgan kontentni osonroq nusxalaydi.
Keyin klassifikatsiya modeli rekonstruksiya xatosini hisoblaydi va ishonchlilik bahosini foizlarda beradi. Fraunhofer IOSB xavfsizlik tizimlari va video yordam doirasining katta ilmiy xodimi Andreas Spekker bayonotida shunday dedi: «Avvalo, biz tasvirni rekonstruksiya qilish uchun AI asosidagi tasvir generatoridan foydalanamiz. Keyin AI modeli klassifikatsiyani oladi va gibrid rekonstruksiya xatosi hisobini bajaradi. Nihoyat, biz aniqlash aniqligini foizlarda ko'rsatadigan bahoni olamiz».
Nima bilan farq qiladi: tushuntirish
Oddiy aniqlash yetarli emas. RealorRender shuningdek, tushunarli AI (XAI) usullaridan foydalanib, tasvirni nima uchun soxta deb tasniflaganini tushuntiradi. Fraunhofer IOSB da tushunarli AI guruhining rahbari Nadia Burkart bayonotida shunday dedi: «Xarakterli teksturalar yoki maxsus chastota naqshlari tasvirning sintezlangan kelib chiqishini ko'rsatishi mumkin. XAI model qaror qabul qilishda qanday xususiyatlardan foydalanayotganini ko'rsatishga yordam beradi».
Asbob ikki turdagi vizuallashtirishdan foydalanadi: model qaroriga eng ko'p ta'sir qilgan tasvir hududlarini ajratib ko'rsatadigan issiqlik xaritalari va sun'iy kelib chiqishni ko'rsatuvchi aniq semantik zonalarni (masalan, yuz, soch yoki fon) aniqlaydigan segmentatsiya tahlili.
Nima uchun bu muhim
RealorRender hal qilmoqchi bo'lgan muammo juda katta miqyosga ega. 2025 yilda butun dunyo bo'ylab deepfake bilan bog'liq firibgarlik 1,5 milliard dollardan oshdi. 2023 yilda o'tkazilgan tadqiqot bitta maxsus veb-saytda 276 149 ta jinsiy deepfake'larni aniqladi, ularning 96% ayollarni tasvirlagan edi.
Odamlarga haqiqiy tasvirlarni soxtalardan ajratib ko'rish juda qiyin. Avtomatlashtirilgan vositalar mavjud bo'lsa-da, ular natijalarining tushuntirishini kamdan-kam beradi, bu esa jurnalistlar, ijtimoiy tarmoq platformalari va moderatsiya to'g'risidagi qarorlarni asoslashga muhtoj bo'lgan xavfsizlik xizmatlari uchun ularning foydasini cheklaydi.
Kim foydalana oladi
RealorRender namoyish versiyasiga integratsiya qilinadi, bu dastlab BSI ga deepfake'larni aniqlashda yordam beradi. Asbobdan foydalanish oddiy: foydalanuvchi tasvirni yuklaydi, tushuntirish va matnli xulosa bilan birga aniqlash natijasini oladi.
Tadqiqotchilar loyiha haqida ikkita hisobotni nashr etishdi. Ushbu texnologiya xavfsizlik xizmatlari, ijtimoiy tarmoq platformalari, media kompaniyalari va fotoagentliklar uchun potentsial qo'llanilishi mumkin.
>


