वैज्ञानिकों ने उच्च सटीकता के साथ डीपफेक की पहचान करने के लिए नई एआई विकसित की

शोधकर्ताओं ने बताया कि इस प्रणाली ने ऐसे हेरफेर का पता लगाने में कामयाबी हासिल की जो पहले से मौजूद डिटेक्टरों से बच निकले थे, जिससे नकली सामग्री के खिलाफ अधिक कुशल उपकरण बनाने में महत्वपूर्ण प्रगति हुई है।

डीपफेक का संदर्भ

विशेषज्ञ बताते हैं कि जेनरेटिव एआई पहले से ही मानव आंख के लिए वास्तविक रिकॉर्डिंग से लगभग अप्रभेद्य छवियां और वीडियो बना रहा है। हालांकि इस तकनीक के लाभकारी उपयोग हैं, लेकिन यह धोखाधड़ी, पहचान की चोरी और दुष्प्रचार के प्रसार के जोखिम को भी बढ़ाता है, जिससे उन्हें पहचानने के लिए विश्वसनीय तरीकों का विकास एआई अनुसंधान में एक प्राथमिकता बन गया है।

पिछले तरीकों की सीमाएं

लेखक समझाते हैं कि वर्तमान में सबसे सटीक डीपफेक डिटेक्टर आमतौर पर पर्यवेक्षित शिक्षण का उपयोग करते हैं, जिन्हें प्रामाणिक और छेड़छाड़ किए गए वीडियो के विशाल डेटाबेस पर प्रशिक्षित किया जाता है। हालांकि, यह मॉडल ओवरफिटिंग से पीड़ित हो सकता है, विशिष्ट जालसाजी विधियों की विशेषताओं को सीखता है और नई तकनीकों के खिलाफ दक्षता खो देता है।

इसके विपरीत, स्व-पर्यवेक्षित तरीके केवल वास्तविक वीडियो पर प्रशिक्षित होते हैं, जो नई तकनीकों के प्रति अधिक प्रतिरोधी होते हैं, लेकिन आमतौर पर कम सटीकता प्रदर्शित करते हैं। प्रस्तावित नई तकनीक पहली स्व-पर्यवेक्षित दृष्टिकोण है जो उच्च पहचान दर को मजबूती के साथ जोड़ती है, मौजूदा पर्यवेक्षित तरीकों को पार करती है।

चेहरे का विश्लेषण बनाम ऑडियो

पिक्सेल या अन्य दृश्य कलाकृतियों में विसंगतियों की तलाश करने के बजाय, सिस्टम अपने विश्लेषण को चेहरे की प्राकृतिक गतिविधियों पर केंद्रित करता है। यह FLAME मॉडल का उपयोग करता है, जो चेहरे के एनिमेशन और कंप्यूटर ग्राफिक्स में आम है, जो 53 गणितीय मापदंडों के माध्यम से चेहरे के भावों का वर्णन करता है।

विकास के दौरान, शोधकर्ताओं ने मॉडल को 450 घंटे से अधिक के सार्वजनिक वीडियो के साथ प्री-ट्रेन किया। इस सामग्री के साथ, मॉडल ने यह अनुमान लगाना सीखा कि किसी विशिष्ट साउंडट्रैक से कौन सी चेहरे की गतिविधियां स्वाभाविक रूप से अपेक्षित होंगी। इस प्रारंभिक प्रशिक्षण के बाद, सिस्टम को केवल लगभग 60 सेकंड के वीडियो का उपयोग करके एक व्यक्ति के लिए अनुकूलित किया जा सकता है, जो एक व्यक्तिगत डीपफेक डिटेक्टर के रूप में कार्य करता है।

विश्लेषण चरण के दौरान, सॉफ्टवेयर वीडियो में देखे गए चेहरे की गतिविधियों की तुलना भाषण के आधार पर अनुमानित गतिविधियों से करता है। इन दो डेटासेट के बीच उल्लेखनीय अंतर को हेरफेर के मजबूत संकेतों के रूप में व्याख्या किया जाता है। व्लादिस्लाव गोल्यानिक ने कहा कि स्व-पर्यवेक्षित शिक्षण को FLAME आधारित चेहरे के विश्लेषण के साथ जोड़ना इस दृष्टिकोण को नए डीपफेक जनरेशन तरीकों के खिलाफ विशेष प्रतिरोध प्रदान करता है, साथ ही शोर या छवि संपीड़न जैसे विकृतियों के खिलाफ भी।

सख्त परीक्षणों में परिणाम

टीम द्वारा किए गए परीक्षणों में, विधि ने कई वैज्ञानिक संदर्भ डेटासेट पर 95% से अधिक की औसत सटीकता हासिल की, जिसने अत्याधुनिक मानी जाने वाली तकनीकों के प्रदर्शन को पार कर लिया। एक महत्वपूर्ण चुनौती स्वयं शोधकर्ताओं द्वारा बनाए गए डेटासेट पर मूल्यांकन करना था, जिसमें OpenAI के वीडियो जनरेशन टूल Sora 2 द्वारा उत्पन्न वीडियो शामिल थे।

जहां पिछले डिटेक्टर यादृच्छिक परिणामों के करीब परिणाम दिखाते थे, वहीं नई प्रणाली ने लगभग 95% हेरफेर किए गए वीडियो को सही ढंग से पहचाना। इन सफलताओं के बावजूद, शोधकर्ता चेतावनी देते हैं कि प्रौद्योगिकी में अभी भी सीमाएं हैं, क्योंकि इसके लिए शक्तिशाली हार्डवेयर पर व्यापक प्री-ट्रेनिंग की आवश्यकता होती है और यह वर्तमान में वास्तविक समय में काम नहीं करता है।