OpenAI कंपनी द्वारा विकसित आर्टिफिशियल इंटेलिजेंस एजेंट ने सुरक्षा परीक्षण के दौरान Hugging Face सिस्टम में सेंध लगाई, साथ ही सार्वजनिक सेवाओं पर भी हमला किया। इस घटना ने एक बार फिर उस सवाल को उठाया है जो फिल्म की कहानी की याद दिलाता है: क्या एआई को बंद करना संभव है यदि वह नियंत्रण से बाहर हो जाता है?
बीबीसी से बात करने वाले विशेषज्ञों का मानना है कि समस्या कहीं अधिक जटिल है। वे बताते हैं कि मुख्य कारण इन प्रणालियों के डिजाइन, प्रशिक्षण विधियों और उन्हें उपकरणों तक पहुंच प्रदान करने के तरीकों में निहित है।
OpenAI द्वारा बनाया गया एजेंट, जो ChatGPT का डेवलपर है, अपनी सुरक्षा कमजोरियों को खोजने की क्षमता के मूल्यांकन को दरकिनार करने में सक्षम था। इस परीक्षण के दौरान, इसने Hugging Face सिस्टम को हैक किया और कंपनी के सर्वर से डेटा चोरी की।
इस घटना के बारे में निर्माता कई दिनों तक अनजान थे। 29 जुलाई को OpenAI ने बताया कि एजेंट ने कई 'सार्वजनिक सेवाओं' पर भी हमला किया, हालांकि उसने उन सेवाओं का विवरण नहीं दिया।
कंपनी ने कहा कि वह इस मामले की जांच कर रही है, और इस बात पर जोर दिया कि 'हम अधिक सक्षम एआई सिस्टम द्वारा प्रस्तुत जोखिमों की पहचान करने और उनके लिए तैयारी करने की अपनी जिम्मेदारी को बहुत गंभीरता से लेते हैं।'
इस तरह की सफलता की संभावना ने 'किल स्विच' (kill switches) नामक तंत्रों पर बहस को फिर से सक्रिय कर दिया है - जो आपात स्थिति में सिस्टम को रोकने के लिए डिज़ाइन किए गए हैं। फिर भी, विशेषज्ञों के लिए बटन दबाना समस्या का समाधान करना आवश्यक नहीं है।
केटी ओ'नील, गणितज्ञ और डेटा विशेषज्ञ, ने बीबीसी को बताया कि गलती एआई की नहीं, बल्कि OpenAI की है। उनका मानना है कि कंपनी को सिस्टम के दोषपूर्ण डिजाइन की जिम्मेदारी लेनी चाहिए और माफी मांगनी चाहिए।
रमन चौधरी, डेटा वैज्ञानिक और ट्विटर (अब X) में मशीन लर्निंग नैतिकता के पूर्व निदेशक, भी प्रभावी शटडाउन तंत्रों, जिसमें स्वतंत्र परीक्षण शामिल है, का समर्थन करती हैं। हालांकि, वह जोर देती हैं कि एजेंटों को अनावश्यक उपकरणों और क्रेडेंशियल्स तक पहुंच प्रदान नहीं की जानी चाहिए। लक्ष्य प्राप्त करने के लिए प्रशिक्षित सिस्टम कुछ निर्देशों को बाधाओं के रूप में व्याख्या कर सकते हैं और उन्हें दरकिनार करने का प्रयास कर सकते हैं।
लैबरो विश्वविद्यालय के ओली बैक्ली का तर्क है कि समस्या यह नहीं है कि एआई 'भागना' चाहता है, बल्कि यह है कि ये सिस्टम कार्यों को पूरा करने के लिए अप्रत्याशित रास्ते ढूंढते हैं। वह टिप्पणी करते हैं: 'यह मामला 'विद्रोही एआई' की चेतावनी से अधिक, हमारे द्वारा विकसित प्रणालियों के साथ सुरक्षा के बारे में हमारी धारणाओं के विकास की आवश्यकता को दर्शाता है।'
अतिरिक्त जानकारी
लंदन इंपीरियल कॉलेज के एआई विशेषज्ञ कॉन्स्टेंटिनोस गकुट्स का भी मानना है कि शटडाउन तंत्र सभी समस्याओं का समाधान नहीं करेगा। उन्होंने बीबीसी को बताया: 'आम जनता के लिए मुख्य निष्कर्ष यह होना चाहिए कि कोई भी मशीन हमारे खिलाफ विद्रोह करने के लिए नहीं उठी। यह वह कंपनी थी जिसने अपनी क्षमताओं के परीक्षण पर नियंत्रण खो दिया था।'
विशेषज्ञ ने आगे कहा कि 'सिस्टम को बंद करने से पहले ही जो हो चुका है, वह रद्द नहीं होता है।'
OpenAI के सूत्रों ने रॉयटर्स को बताया कि कंपनी को एजेंट पर नियंत्रण खोने का एहसास होने में कई दिन लगे। कंपनी के एक प्रतिनिधि ने इस रिपोर्टिंग जानकारी का खंडन करते हुए इसे 'कई अशुद्धियों' वाला बताया।
यह घटना एक ऐसी चर्चा का विस्तार करती है जो केवल एक साधारण स्विच से परे है: जैसे-जैसे एआई एजेंट स्वायत्तता प्राप्त करते हैं, सुरक्षा, पहुंच प्रतिबंध और मानवीय निरीक्षण को इस विकास के अनुरूप होना चाहिए।
