Xalqaro mutaxassislar jamoasi sun'iy intellekt tomonidan manipulyatsiya qilingan videolarni, ya'ni deepfake'larni aniqlashga qodir yangi usul yaratdi va bu usulning o'rtacha to'g'ri aniqlash darajasi 95% dan oshdi.
Aniqlashning yangi yondashuvi
Yaponiya To쿄 universiteti va Germaniya Max Planck axborotnoma instituti tadqiqotchilari tomonidan ishlab chiqilgan bu metodologiya vizual kamchiliklarga e'tibor bermasligi bilan yangilik kiritadi. Buning o'rniga, tizim taqdim etilgan yuz ifodalari gapirilayotgan ovoz bilan tabiiy mos kelishini tahlil qiladi.
Tadqiqotchilar bu tizim mavjud detektorlar tomonidan o'tkazib yuborilgan manipulyatsiyalarni aniqlashga muvaffaq bo'lganini bildirib, soxta kontentga qarshi samaraliroq vositalar yaratishda sezilarli taraqqiyotga erishilganini ta'kidlashdi.
Deepfake'lar konteksti
Mutaxassislar generativ AI allaqachon inson ko'zi uchun haqiqiy yozuvlardan deyarli ajratib bo'lmaydigan tasvir va videolar yaratayotganini ta'kidlaydilar. Bu texnologiya foydali qo'llanilishlarga ega bo'lsa-da, u shuningdek firibgarlik, shaxsni o'g'irlash va noto'g'ri ma'lumot tarqatilishi xavfini oshiradi, bu esa ularni aniqlash uchun ishonchli usullarni ishlab chiqishni AI tadqiqotlarining ustuvor vazifasi qiladi.
Avvalgi usullarning cheklovlari
Mualliflar hozirgi eng aniq deepfake detektorlari odatda nazoratli o'rganishdan foydalanishini tushuntirishadi, ular katta hajmdagi haqiqiy va manipulyatsiya qilingan videolardan o'qitiladi. Biroq, bu model overfitting (ortiqcha moslashish) ga uchrishi mumkin, ya'ni ba'zi soxtalashtirish usullari xususiyatlarini o'rganib, yangi texnikalarga qarshi samaradorligini yo'qotadi.
Bunga qarama-qarshi, avtonomiya o'rganadigan usullar faqat haqiqiy videolardan o'qitiladi, ular yangi texnologiyalarga nisbatan chidamliroq, ammo odatda pastroq aniqlikka ega. Taklif etilgan yangi texnika yuqori aniqlikni mustahkamlik bilan birlashtira oladigan birinchi avtonom yondashuv bo'lib, mavjud nazoratli usullarni ortda qoldiradi.
Yuz tahlili va audio
Piksel yoki boshqa vizual artefaktlardagi nomuvofiqliklarni izlash o'rniga, tizim yuzning tabiiy harakatlariga diqqat qaratadi. U animatsiya va grafik kompyuterlashtirishda keng tarqalgan FLAME modelidan foydalanadi, bu model yuz ifodalarini 53 ta matematik parametr orqali tasvirlaydi.
Ishlab chiqarish jarayonida tadqiqotchilar modelni 450 soatdan ortiq jamoatchilik videolari bilan oldindan o'qitishdi. Ushbu material bilan model ma'lum bir tovush manbasidan qaysi yuz harakatlari tabiiy kutilishi kerakligini bashorat qilishni o'rgandi. Ushbu dastlabki o'qitishdan so'ng, tizim atigi 60 soniya videodan foydalanib, shaxsga moslashtirilishi mumkin, bu esa shaxsiy deepfake detektori sifatida ishlaydi.
Tahlil bosqichida dastur videoda kuzatilayotgan yuz harakatlarini nutq asosida bashorat qilingan harakatlar bilan solishtiradi. Bu ikki ma'lumotlar to'plami o'rtasidagi sezilarli farqlar manipulyatsiyaning kuchli belgisi sifatida talqin qilinadi. Vladislav Golyanik, avtonom o'rganishni FLAME asosidagi yuz tahlili bilan birlashtirish usulga yangi deepfake yaratish usullari, shuningdek, shovqin yoki tasvir siqish kabi buzilishlarga nisbatan maxsus chidamlilik berishini bildirdi.
Qattiq sinovlardagi natijalar
Jamoa tomonidan o'tkazilgan sinovlarda usul bir nechta standart ilmiy ma'lumotlar to'plamlarida o'rtacha 95% dan yuqori aniqlikka erishdi va bu eng ilg'or deb hisoblangan texnikalarning samaradorligidan oshib ketdi. Jiddiy muammo – bu OpenAI ning video yaratish vositasi Sora 2 tomonidan yaratilgan videolarni o'z tadqiqotchilar tomonidan yaratilgan ma'lumotlar to'plamida baholash edi.
Oldingi detektorlar tasodifga yaqin natijalar ko'rsatgan bo'lsa, yangi tizim manipulyatsiya qilingan videolarning deyarli 95% ni to'g'ri aniqladi. Ushbu taraqqiyotlarga qaramay, tadqiqotchilar texnologiyaning hali ham cheklovlari borligini ogohlantiradilar, chunki u quvvatli apparatda keng ko'lamli oldindan o'qitishni talab qiladi va hozirda real vaqt rejimida ishlamaydi.
