मेटा द्वारा कृत्रिम बुद्धिमत्ता द्वारा बनाई गई छवियों का पता लगाने के लिए विकसित एक उपकरण ने साधारण क्रॉपिंग के बाद अपनी ही रचनाओं की पहचान करने की कोशिश करते समय खामियां दिखाईं, जैसा कि रॉयटर्स ने पता लगाया है।
जनरेट की गई छवियों के साथ परीक्षण के परिणाम
परीक्षण में कंपनी के नवीनतम छवि जनरेशन मॉडल, म्यूज इमेज द्वारा उत्पादित 40 छवियां शामिल थीं। शुरू में, उपकरण सभी 40 मूल छवियों को सही ढंग से पहचानने में सक्षम था। हालांकि, जब इन समान छवियों को क्रॉपिंग के माध्यम से उनके मूल आकार के लगभग एक तिहाई या आधे तक कम कर दिया गया, तो डिटेक्टर 55% मामलों में विफल हो गया।
सिस्टम का कार्य और सीमाएं
मेटा बताती है कि उसका डिटेक्शन सिस्टम 'कंटेंट सील' नामक एक अदृश्य वॉटरमार्क का उपयोग करता है, जिसे म्यूज इमेज द्वारा उत्पन्न प्रत्येक छवि में शामिल किया जाता है। इस तकनीक को उपयोगकर्ताओं को यह सत्यापित करने में सक्षम बनाने के लिए डिज़ाइन किया गया था कि क्या किसी छवि को कंपनी के एआई मॉडल द्वारा बनाया गया था, यहां तक कि सामान्य संपादन के बाद भी।
रॉयटर्स के विश्लेषण के निष्कर्षों पर सवाल किए जाने पर, मेटा ने जोर देकर कहा कि उपकरण अभी भी पूर्वावलोकन चरण में है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादन का समर्थन करने के लिए डिज़ाइन किया गया था, लेकिन इसने स्वीकार किया कि बहुत अधिक कठोर क्रॉपिंग में सिग्नल खो सकता है।
एआई विशेषज्ञों की राय
साइवेई ल्यू, न्यूयॉर्क स्टेट यूनिवर्सिटी, बफेलो में कंप्यूटर साइंस के प्रोफेसर और एआई इमेज फोरेंसिक विशेषज्ञ, ने रॉयटर्स को बताया कि वॉटरमार्क पर निर्भर सिस्टम में ज्ञात सीमाएं होती हैं। उन्होंने कहा कि हालांकि वॉटरमार्क-आधारित तरीके तब बहुत प्रभावी होते हैं जब सिग्नल बरकरार रहता है, कोई भी परिवर्तन जो इस सिग्नल को कमजोर या हटा देता है - जैसे भारी संपीड़न, रीसाइज़िंग या क्रॉपिंग - वॉटरमार्क के डिजाइन के आधार पर इसके प्रदर्शन को कम कर सकता है।
दूसरी ओर, यूसी बर्कले स्कूल ऑफ इंफॉर्मेशन में एआई की पीएचडी छात्रा सारा बैरिंगटन ने सीमाओं से सहमति व्यक्त की, लेकिन तर्क दिया कि अन्य साइबरनेटिक या भौतिक सुरक्षा उपायों की तरह, यह पूरी तरह से अचूक नहीं हो सकता है। उन्होंने जोड़ा कि भले ही डिटेक्शन केवल 90% मामलों तक पहुंचे, यह शून्य दर की तुलना में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है।
नियामक संदर्भ और प्रतिस्पर्धा
यह खोज एक संवेदनशील अवधि में सामने आई है, क्योंकि वर्ष में संयुक्त राज्य अमेरिका में मध्यावधि चुनाव शामिल हैं, ऐसे समय में जब हेरफेर की गई छवियों और डीपफेक के प्रसार बढ़ने की प्रवृत्ति होती है। मार्च में, मेटा की निगरानी परिषद, सामग्री मॉडरेशन पर बाध्यकारी निर्णयों के लिए जिम्मेदार एक स्वतंत्र निकाय, ने कंपनी से अपने प्लेटफॉर्म पर एआई द्वारा उत्पन्न भ्रामक सामग्री के प्रसार के खिलाफ प्रयासों को तेज करने और अधिक मजबूत डिटेक्शन टूल में निवेश करने का अनुरोध किया।
मेटा इस चुनौती का सामना अकेले नहीं कर रही है; गूगल और ओपनएआई दोनों ने भी सार्वजनिक रूप से चेतावनी दी है कि उनके अपने डिटेक्शन टूल छवि हेरफेर तकनीकों के प्रति प्रतिरक्षित नहीं हैं।
