Xalqaro mutaxassislar jamoasi sun'iy intellekt tomonidan manipulyatsiya qilingan videolarni, ya'ni deepfake'larni aniqlashga qodir yangi usul yaratdi va bu usulning o'rtacha to'g'ri aniqlash darajasi 95% dan oshdi.
Xalqaro mutaxassislar jamoasi sun'iy intellekt tomonidan manipulyatsiya qilingan videolarni, ya'ni deepfake'larni aniqlashga qodir yangi usul yaratdi va bu usulning o'rtacha to'g'ri aniqlash darajasi 95% dan oshdi.
Yaponiya To쿄 universiteti va Germaniya Max Planck axborotnoma instituti tadqiqotchilari tomonidan ishlab chiqilgan bu metodologiya vizual kamchiliklarga e'tibor bermasligi bilan yangilik kiritadi. Buning o'rniga, tizim taqdim etilgan yuz ifodalari gapirilayotgan ovoz bilan tabiiy mos kelishini tahlil qiladi.
Tadqiqotchilar bu tizim mavjud detektorlar tomonidan o'tkazib yuborilgan manipulyatsiyalarni aniqlashga muvaffaq bo'lganini bildirib, soxta kontentga qarshi samaraliroq vositalar yaratishda sezilarli taraqqiyotga erishilganini ta'kidlashdi.
Mutaxassislar generativ AI allaqachon inson ko'zi uchun haqiqiy yozuvlardan deyarli ajratib bo'lmaydigan tasvir va videolar yaratayotganini ta'kidlaydilar. Bu texnologiya foydali qo'llanilishlarga ega bo'lsa-da, u shuningdek firibgarlik, shaxsni o'g'irlash va noto'g'ri ma'lumot tarqatilishi xavfini oshiradi, bu esa ularni aniqlash uchun ishonchli usullarni ishlab chiqishni AI tadqiqotlarining ustuvor vazifasi qiladi.
Mualliflar hozirgi eng aniq deepfake detektorlari odatda nazoratli o'rganishdan foydalanishini tushuntirishadi, ular katta hajmdagi haqiqiy va manipulyatsiya qilingan videolardan o'qitiladi. Biroq, bu model overfitting (ortiqcha moslashish) ga uchrishi mumkin, ya'ni ba'zi soxtalashtirish usullari xususiyatlarini o'rganib, yangi texnikalarga qarshi samaradorligini yo'qotadi.
Bunga qarama-qarshi, avtonomiya o'rganadigan usullar faqat haqiqiy videolardan o'qitiladi, ular yangi texnologiyalarga nisbatan chidamliroq, ammo odatda pastroq aniqlikka ega. Taklif etilgan yangi texnika yuqori aniqlikni mustahkamlik bilan birlashtira oladigan birinchi avtonom yondashuv bo'lib, mavjud nazoratli usullarni ortda qoldiradi.
Piksel yoki boshqa vizual artefaktlardagi nomuvofiqliklarni izlash o'rniga, tizim yuzning tabiiy harakatlariga diqqat qaratadi. U animatsiya va grafik kompyuterlashtirishda keng tarqalgan FLAME modelidan foydalanadi, bu model yuz ifodalarini 53 ta matematik parametr orqali tasvirlaydi.
Ishlab chiqarish jarayonida tadqiqotchilar modelni 450 soatdan ortiq jamoatchilik videolari bilan oldindan o'qitishdi. Ushbu material bilan model ma'lum bir tovush manbasidan qaysi yuz harakatlari tabiiy kutilishi kerakligini bashorat qilishni o'rgandi. Ushbu dastlabki o'qitishdan so'ng, tizim atigi 60 soniya videodan foydalanib, shaxsga moslashtirilishi mumkin, bu esa shaxsiy deepfake detektori sifatida ishlaydi.
Tahlil bosqichida dastur videoda kuzatilayotgan yuz harakatlarini nutq asosida bashorat qilingan harakatlar bilan solishtiradi. Bu ikki ma'lumotlar to'plami o'rtasidagi sezilarli farqlar manipulyatsiyaning kuchli belgisi sifatida talqin qilinadi. Vladislav Golyanik, avtonom o'rganishni FLAME asosidagi yuz tahlili bilan birlashtirish usulga yangi deepfake yaratish usullari, shuningdek, shovqin yoki tasvir siqish kabi buzilishlarga nisbatan maxsus chidamlilik berishini bildirdi.
Jamoa tomonidan o'tkazilgan sinovlarda usul bir nechta standart ilmiy ma'lumotlar to'plamlarida o'rtacha 95% dan yuqori aniqlikka erishdi va bu eng ilg'or deb hisoblangan texnikalarning samaradorligidan oshib ketdi. Jiddiy muammo – bu OpenAI ning video yaratish vositasi Sora 2 tomonidan yaratilgan videolarni o'z tadqiqotchilar tomonidan yaratilgan ma'lumotlar to'plamida baholash edi.
Oldingi detektorlar tasodifga yaqin natijalar ko'rsatgan bo'lsa, yangi tizim manipulyatsiya qilingan videolarning deyarli 95% ni to'g'ri aniqladi. Ushbu taraqqiyotlarga qaramay, tadqiqotchilar texnologiyaning hali ham cheklovlari borligini ogohlantiradilar, chunki u quvvatli apparatda keng ko'lamli oldindan o'qitishni talab qiladi va hozirda real vaqt rejimida ishlamaydi.
Instagram sun'iy intellekt tomonidan yaratilgan tasvirlarda boshqa odamning yuzidan foydalanish imkonini beradigan funksiyani e'lon qilgan edi. Buning uchun qurbonning foydalanuvchi nomini ilovaga kiritish kifoya edi, bu esa AI orqali foto manipulyatsiyasi va natijalarni qayta joylashtirishni ta'minlaydi.
Bu yangilik platformaning barcha jamoat hisoblarida avtomatik ravishda faollashtirilishi kerak edi. Deepfake yaratilishining oldini olish uchun foydalanuvchilar ikkita variantdan birini tanlashlari mumkin edi: ilova menyularida kam ko'rinadigan maxsus sozlamani izlash yoki o'z akkauntini maxfiy qilish.
Dastlab, ushbu funksiyani joriy etish maqsadi Meta AI sektori tomonidan ishlab chiqilgan yangi tasvir yaratish algoritmi bo'lgan Muse Image dan foydalanishni rag'batlantirish edi. Biroq, kompaniya standartlarini hisobga olgan holda ham, taklif maxfiylik nuqtai nazaridan haddan tashqari ko'p deb baholandi. Juma kuni (10) kechasi Meta funksiyani ishga tushirishni bekor qilishga qaror qildi.
Kompaniya bayonotida o'zgarishni quyidagicha asoslab berdi: «Bizning maqsadimiz foydali ijodiy vosita taqdim etish edi va odamlarga o'z jamoat kontentlari shu tarzda havolalanishi (foydalanilishi) haqida qaror qabul qilish huquqini berish edi. Biz bu funksiya maqsadga to'g'ri kelmaganligi haqidagi fikr-mulohazalarni eshitdik, shuning uchun u endi mavjud emas».
Bu hodisa Meta ning majburiy qabul qilishni talab qiladigan yoki mahsulotlari va ilovalarning foydalanish shartnomalarida tafsilotlarni yashiradigan invaziv funksiyalarni avtomatik faollashtirgan birinchi holati emas. Avvalgi skandal fevral oyida ro'y bergan edi, toki Kenyadagi Sama kompaniyasining xodimlari Meta Glasses ko'zoynaklari bilan yozilgan videolarni qabul qilishganini xabar qilishgan. Ushbu yozuvlarda bank ma'lumotlari, jinsiy sahnalar yoki hammomlardagi lahzalar kabi juda maxfiy ma'lumotlar mavjud edi.
Ushbu voqea keng xalqaro shov-shuvga sabab bo'lganidan so'ng, Meta Sama bilan shartnomasini bekor qildi. Afrikalik kompaniya
