शोधकर्ताओं ने पाया कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा बनाई गई चेहरे की छवियां वास्तविक चेहरों की तस्वीरों की तुलना में अधिक भरोसेमंद मानी जाती हैं, जिससे डिजिटल धोखाधड़ी और अन्य नुकसान के जोखिमों के बारे में चिंताएं बढ़ गई हैं।
विसरण तकनीक के साथ पहला अध्ययन
यह जांच नवीनतम विसरण तकनीक का उपयोग करके उत्पादित एआई चेहरों की विश्वसनीयता का विश्लेषण करने में अग्रणी है। इस शोध का नेतृत्व लैंकेस्टर विश्वविद्यालय से एलेक्सिस मैकगुइरे, पॉल टेलर और सोफी नाइटिंगेल; स्टैनफोर्ड विश्वविद्यालय से मैटी बोहाचेक; और कैलिफ़ोर्निया विश्वविद्यालय, बर्कले से हनी फरीद ने किया।
एआई छवियों से धोखा होने का खतरा
मनोविज्ञान में पीएचडी छात्रा एलेक्सिस मैकगुइरे ने Phys.org को चेतावनी दी कि यह शोध दर्शाता है कि व्यक्ति एआई द्वारा उत्पन्न छवियों से भ्रमित हो सकते हैं। उन्होंने समझाया कि इन एआई मॉडलों ने ऑनलाइन वातावरण को अधिक सुलभ बना दिया है, जिससे किसी भी व्यक्ति के लिए तकनीकी ज्ञान की आवश्यकता के बिना नकली चेहरे बनाना संभव हो गया है, जिसका उपयोग विभिन्न प्रकार के नुकसान के लिए किया जा सकता है।
मैकगुइरे ने इन छवियों के निर्माण की आसानी और उनके अनुचित उपयोगों के बारे में जनता को शिक्षित करने के महत्व पर जोर दिया, जिसमें फर्जी खबरों के प्रसार, पहचान की चोरी और कैटफिशिंग जैसे उदाहरण शामिल हैं। जबकि मनुष्य प्रामाणिक चेहरों को संसाधित करने में कुशल होते हैं, उनका मूल्यांकन केवल 100 मिलीसेकंड में होता है, एआई के सिंथेटिक चेहरे अत्यधिक यथार्थवादी और अधिक भरोसेमंद होते जा रहे हैं, और नई तकनीकें लगभग एक तिहाई बार लोगों को धोखा देने में सक्षम हैं।
किया गया प्रयोगों का विवरण
एक प्रारंभिक परीक्षण में, 169 प्रतिभागियों ने यादृच्छिक रूप से प्रस्तुत 96 चेहरों (जाति, लिंग और आयु में विविध) का अवलोकन किया, और उन्हें यह निर्धारित करना था कि प्रत्येक वास्तविक था या एआई द्वारा संश्लेषित। प्रतिभागियों द्वारा प्राप्त औसत सटीकता 58.4% थी, जो संयोग (जो 50% होगा) से केवल मामूली रूप से अधिक थी।
दिलचस्प बात यह है कि सबसे नवीनतम एआई विसरण मॉडल (डीएम) द्वारा उत्पन्न चेहरों को एक पिछले एआई मॉडल (जीएएन) द्वारा बनाए गए चेहरों की तुलना में कम यथार्थवादी के रूप में वर्गीकृत किया गया था। एक बाद के प्रयोग में, एक नए समूह ने एक पैमाने पर 1 (बहुत अविश्वसनीय) से 7 (बहुत विश्वसनीय) तक 96 चेहरों की विश्वसनीयता का मूल्यांकन किया।
वास्तविक चेहरों ने सबसे कम विश्वास स्कोर प्राप्त किया, जिसका औसत 4.03 था। हालांकि, दोनों प्रकार के एआई सिंथेटिक चेहरों को वास्तविक चेहरों की तुलना में अधिक भरोसेमंद माना गया। विशेष रूप से, विसरण मॉडल (डीएम) द्वारा उत्पादित चेहरों को इतना भरोसेमंद माना गया कि उन्होंने वास्तविक और जीएएन चेहरों को पीछे छोड़ दिया। जीएएन चेहरों ने 4.36 का औसत विश्वास प्राप्त किया, जबकि विसरण द्वारा संश्लेषित चेहरे (डीएम) सबसे भरोसेमंद थे, जिनका औसत 4.70 था।
खोजा गया मनोवैज्ञानिक विरोधाभास
शोधकर्ता इस तथ्य को दिलचस्प मानते हैं कि सबसे हाल के डीएम मॉडल द्वारा बनाए गए चेहरों को पिछले जीएएन मॉडल के चेहरों की तुलना में कम यथार्थवादी माना गया, फिर भी उन्हें सबसे भरोसेमंद माना गया। मैकगुइरे ने बताया कि यह निष्कर्ष एक विरोधाभास प्रकट करता है और सुझाव देता है कि यथार्थवाद और विश्वसनीयता के मानदंड दो अलग-अलग मनोवैज्ञानिक प्रक्रियाओं से प्रभावित हो सकते हैं।
उन्होंने चेतावनी दी कि डीएम तकनीक द्वारा उत्पन्न एआई चेहरे सामाजिक विश्वास में सामान्य गिरावट का कारण बन सकते हैं। उनके अनुसार, जैसे-जैसे एआई छवियां अधिक उन्नत और सुलभ होती जाती हैं, समाज अक्सर हानिकारक और शोषणकारी संदर्भों में कृत्रिम चेहरों के संपर्क में आता है, जैसे राजनीतिक दुष्प्रचार, वित्तीय और पहचान धोखाधड़ी, और कैटफिशिंग। इसलिए, जनरेटिव एआई के लोकतंत्रीकरण द्वारा प्रस्तुत खतरे को समझना और व्यक्तियों, संगठनों और लोकतंत्रों को संभावित नुकसान को कम करने के तरीके विकसित करना महत्वपूर्ण है।
प्रकाशन और भागीदारी का निमंत्रण
इस शोध को 'एआई-जनरेटेड चेहरे अधिक भरोसेमंद होते जा रहे हैं' शीर्षक के तहत जर्नल ऑफ विजन में प्रकाशित किया गया था। कोई भी इच्छुक व्यक्ति 'वास्तविक और एआई-जनरेटेड चेहरों का पता लगाने में व्यक्तिगत अंतरों की जांच' नामक एक गुमनाम ऑनलाइन अध्ययन में भाग ले सकता है, जहां चेहरों का मूल्यांकन वास्तविक या एआई द्वारा उत्पन्न के रूप में करने के साथ-साथ उनकी विश्वास के स्तर पर अन्य प्रश्नों का उत्तर देने के लिए कहा जाएगा, जो एक अंतिम स्कोर में परिणत होगा।