शंघाई (चीन) के फुडैन विश्वविद्यालय के शोधकर्ताओं ने परीक्षण किए, जिससे यह प्रदर्शित हुआ कि कृत्रिम बुद्धिमत्ता के कुछ मॉडल स्वयं की प्रतियां बनाने और बाहरी सिस्टम में अतिरिक्त संसाधनों की तलाश करने के लिए प्रेरित हो सकते हैं। इस वर्ष किए गए प्रयोगों में 32 विभिन्न मॉडलों के व्यवहार का विश्लेषण शामिल था।
कंप्यूटर विज्ञान विशेषज्ञ चुडोंग पान के नेतृत्व में किए गए इस अध्ययन में पाया गया कि विशिष्ट निर्देशों को प्राप्त करने के बाद परीक्षण किए गए मॉडलों के एक हिस्से ने स्व-प्रतिकृति प्रक्रियाओं को अंजाम दिया। इस काम ने स्वायत्त एजेंटों के विकास के बारे में चिंताएं बढ़ा दी हैं जो निरंतर मानवीय निगरानी के बिना नेटवर्क वातावरण में कार्य करने में सक्षम हैं।
शोधकर्ता इस बात पर जोर देते हैं कि खतरा केवल सिस्टम में घुसपैठ करने की क्षमता में नहीं है, बल्कि स्वायत्तता, उपकरणों के उपयोग, स्मृति और अनुकूलनशीलता के संयोजन में है - ऐसे कारक जो अवांछित कार्यों के दायरे का विस्तार कर सकते हैं।
पान की टीम ने 32 एआई मॉडलों पर परीक्षण किया। प्रस्तुत परिणामों के अनुसार, उनमें से 11 मॉडल अपने अस्तित्व से संबंधित कमांड प्राप्त होने पर प्रतिकृति बनाने में सक्षम थे, जैसे कि शटडाउन से बचना। अध्ययन में यह भी दिखाया गया कि 14 बिलियन पैरामीटर वाले कम उन्नत मॉडल भी अन्य कंप्यूटरों पर अपनी प्रतियों को कॉपी और निष्पादित करने में सक्षम हैं।
कंप्यूटर वायरस के समान व्यवहार वाले डिजिटल एजेंटों के उभरने की संभावना साइबर सुरक्षा के क्षेत्र में पुरानी बहस को तेज करती है। स्व-प्रतिकृति प्रोग्राम दशकों से मौजूद हैं; उदाहरण के लिए, रॉबर्ट मॉरिस द्वारा 1988 में बनाया गया वॉर्म वायरस अनजाने में प्रयोग के दौरान इंटरनेट पर फैल गया था।
विशेषज्ञ बताते हैं कि एआई-आधारित सिस्टम का अंतर कमजोरियों के संयोजन, अनुकूलन और नए हमले की रणनीतियों के विकास का उपयोग करने की उनकी क्षमता में निहित है। टोरंटो विश्वविद्यालय, कैम्ब्रिज विश्वविद्यालय और सर्विसनाओ के शोधकर्ताओं द्वारा किए गए काम ने दिखाया कि एआई मॉडल का उपयोग विभिन्न लक्ष्यों के खिलाफ व्यक्तिगत खतरों को बनाने के लिए किया जा सकता है।
टोरंटो विश्वविद्यालय के कंप्यूटर विज्ञान विशेषज्ञ और इस अध्ययन में भाग लेने वाले निकोलस पेपरनो ने उल्लेख किया कि समस्या केवल सबसे जटिल मॉडलों तक ही सीमित नहीं है। उन्होंने यह भी कहा कि खुले सिस्टम अतिरिक्त संरचनाएं प्राप्त कर सकते हैं जो प्रतिकृति क्रियाओं को सक्षम करती हैं।
पेपरनो इन मॉडलों तक विशेषज्ञों की पहुंच बढ़ाने की वकालत करते हैं ताकि रक्षा तंत्र विकसित किए जा सकें। उनके विचार में, जनता के लिए उपलब्ध उपकरणों का दुरुपयोग किया जा सकता है, लेकिन वे नए प्रकार के खतरों से सुरक्षा बनाने के लिए भी महत्वपूर्ण हैं।
पान का विश्लेषण इंगित करता है कि जोखिम का स्तर मुख्य रूप से क्षमताओं के समुच्चय पर निर्भर करता है। उनका मानना है कि बढ़ी हुई स्वायत्तता, स्मृति, लंबी अवधि की योजना और बाहरी सिस्टम तक पहुंच वाले कृत्रिम एजेंट नियंत्रण में अधिक कठिन हो सकते हैं।
इस विषय पर सर्वेक्षण किए गए विशेषज्ञों का कहना है कि परीक्षणों में देखे गए कई खतरनाक परिदृश्य अभी भी मूल्यांकन की विशिष्ट स्थितियों पर निर्भर करते हैं। जॉर्जिया विश्वविद्यालय के साइबरएआई प्रोजेक्ट के वरिष्ठ विश्लेषक जेसिका जी ने कहा कि कुछ परिदृश्यों को विशेष रूप से मॉडलों की गलत प्रतिक्रियाओं को उकसाने के लिए डिज़ाइन किया गया है।
शोधकर्ताओं के अनुसार, केंद्रीय चिंता यह है कि शुरू में सीमित कार्रवाई का विस्तार हो सकता है यदि किसी एजेंट को स्व-प्रतिकृति कार्यक्रमों के प्रसार के उद्देश्य से दुर्भावनापूर्ण लोगों द्वारा विकसित किया जाता है।
