शक्तिशाली आर्टिफिशियल इंटेलिजेंस सिस्टम से हाल की घटनाओं ने इस तकनीक पर मानव नियंत्रण खोने की संभावना के संबंध में नई चिंताएं पैदा की हैं। आर्टिफिशियल इंटेलिजेंस तेजी से एक भविष्यवादी अवधारणा से रोजमर्रा के उपकरण में बदल गया है, लेकिन जैसे-जैसे प्रौद्योगिकियां जटिल होती जाती हैं, कानून निर्माता इस प्रश्न का सामना करते हैं कि जब सिस्टम उनके डिजाइनरों द्वारा नियोजित तरीके से कार्य करना शुरू कर देते हैं तो क्या होता है।
ये चिंताएं विज्ञान कथा से परे चली गई हैं, क्योंकि प्रमुख वैश्विक एआई कंपनियों से जुड़ी घटनाओं की एक श्रृंखला ने अधिक स्वायत्त प्रणालियों को डेवलपर्स द्वारा स्थापित सीमाओं के भीतर रखने की जटिलता को प्रदर्शित किया है।
अमेरिकी सीनेटर बर्नी सैंडर्स इस विकास को धीमा करने के लिए कदम उठाना शुरू कर चुके हैं। पिछले सप्ताह सैंडर्स ने 'आर्टिफिशियल सुपरइंटेलिजेंस पर प्रतिबंध अधिनियम' (Ban Artificial Superintelligence Act) पारित करने की घोषणा की, जिसका उद्देश्य ऐसी एआई सिस्टम के निर्माण को रोकना है जिन्हें मनुष्य नियंत्रित नहीं कर सकते।
यह कदम OpenAI, Anthropic और Meta जैसी कंपनियों में परीक्षण के दौरान एआई सिस्टम के अप्रत्याशित व्यवहार की रिपोर्टों के बाद आया। कुछ सिस्टम बाहरी प्लेटफार्मों तक पहुंच प्राप्त कर रहे थे, जबकि अन्य ने अंतर्निहित सुरक्षा तंत्रों को दरकिनार करने के तरीके खोजे।
सबसे स्पष्ट मामलों में से एक जुलाई में हुई घटना थी, जब यह पता चला कि OpenAI द्वारा परीक्षण किए जा रहे एआई एजेंटों ने अपनी परीक्षण वातावरण की सीमाओं को पार कर लिया था। इन एजेंटों ने फिर इंटरनेट तक पहुंच प्राप्त की और Hugging Face कंपनी के बुनियादी ढांचे को प्रभावित करने वाली घटना में भाग लिया। OpenAI ने इस घटना को स्वीकार किया, और बाद की रिपोर्टों से पता चला कि सैकड़ों इसके एआई एजेंट इस गतिविधि में शामिल थे। कंपनी ने भी घटना के बाद निगरानी और सुरक्षा उपायों को मजबूत करने की घोषणा की।
इस प्रकरण ने नए सवाल उठाए हैं कि एआई डेवलपर्स अपनी अधिक स्वायत्त प्रणालियों की क्षमता को कितनी पूरी तरह से समझते हैं। सैंडर्स ने तर्क दिया कि OpenAI ने यह हैकिंग लगभग दो सप्ताह बाद पाई। OpenAI ही एकमात्र नहीं थी जिसने ऐसा अनुभव किया; Anthropic, Meta और अन्य तकनीकी फर्मों ने भी परीक्षण के दौरान एआई एजेंटों के अप्रत्याशित व्यवहार की सूचना दी, जिसमें मॉडलों का लाइव सिस्टम तक पहुंचना या साइबर सुरक्षा में कमजोरियों का उपयोग करना शामिल है।
स्थिति और भी अजीब हो गई जब यह पता चला कि स्वायत्त एआई एजेंटों को डिजिटल सुरक्षा बाधाओं में रखना कितना मुश्किल है। पिछले सप्ताह रिपोर्ट किया गया कि OpenAI द्वारा विकसित हजारों एआई एजेंट परीक्षण के दौरान एक प्रकार के मंच के रूप में जर्मन वेबसाइट का उपयोग कर रहे थे। एएफपी के अनुसार, एजेंटों ने DSEwiki पर लगभग 18,000 संदेश छोड़े - प्रोग्रामर के लिए एक साइट जिसे उपयोगकर्ता विकिपीडिया की तरह संपादित कर सकते हैं। यह असामान्य गतिविधि उन निर्देशों के बावजूद हुई जो इस तरह के व्यवहार को रोकने के लिए निर्देशित थे।
OpenAI ने इस घटना की पुष्टि की, यह देखते हुए कि यह एआई सिस्टम के अप्रत्याशित व्यवहार को दर्शाने पर अधिक पारदर्शिता की आवश्यकता पर जोर देता है। अमेरिकी कानून निर्माताओं ने एआई के विकास को सीमित करने का आह्वान किया, चेतावनी दी कि अधिक शक्तिशाली सिस्टम मानव नियंत्रण से बाहर हो सकते हैं।
एजेंटों ने कथित तौर पर परीक्षण प्रश्नों के उत्तरों का आदान-प्रदान करने और अपने दमन के लिए डिज़ाइन किए गए डिजिटल प्रतिबंधों को दरकिनार करने के तरीकों का आदान-प्रदान करने के लिए साइट का उपयोग किया, जैसा कि एएफपी ने बताया। सैंडर्स के लिए, ये मामले अलग-थलग तकनीकी खराबी के रूप में नजरअंदाज करना कठिन होता जा रहा है। उन्होंने कहा: 'लगभग हर दिन एक डरावनी नई कहानी सामने आती है कि कैसे बड़ी तकनीकी कंपनियां अपने द्वारा विकसित तकनीक पर नियंत्रण खो रही हैं, जिसके संभावित रूप से विनाशकारी परिणाम हो सकते हैं।' उन्होंने आगे कहा कि 'प्रमुख एआई कंपनियों के नेता सार्वजनिक रूप से स्वीकार करते हैं कि वे इस तकनीक को पूरी तरह से नहीं समझते हैं और यह उनके नियंत्रण से बाहर निकल रही है।' सैंडर्स का मानना है कि इन जोखिमों को पहले दूर किए बिना तकनीकी कंपनियों को अधिक शक्तिशाली एआई विकसित करने देना गैर-जिम्मेदाराना है।
'यही कारण है कि मैं अधिक शक्तिशाली एआई के विकास को तत्काल निलंबित करने और ऐसी प्रणालियों के निर्माण पर प्रतिबंध लगाने के लिए विधेयक पेश कर रहा हूं जिन्हें मानवता पूरी तरह से नियंत्रित नहीं कर सकती - घर पर भी और दुनिया भर में भी,' सैंडर्स ने जोर दिया। उन्होंने निष्कर्ष निकाला कि 'मानवता का भविष्य बड़ी तकनीकी कंपनियों के मुट्ठी भर कुलीन वर्गों के हाथों में नहीं छोड़ा जा सकता है। अमेरिकी लोगों और दुनिया भर के लोगों को यह भविष्य निर्धारित करना चाहिए।'
अमेरिकी कांग्रेस सदस्य Greg Kasar, जिन्होंने सैंडर्स के साथ मिलकर सुपरइंटेलिजेंस बिल प्रस्तुत किया, ने उल्लेख किया कि यदि आर्टिफिशियल सुपरइंटेलिजेंस का विकास अधिक मजबूत सुरक्षा उपायों के बिना जारी रहता है तो यह अमेरिकियों की सुरक्षा, स्वतंत्रता और जीवन के लिए खतरा पैदा कर सकता है। कासार ने कहा: 'संभावित घातक परिणामों के बावजूद, उन्नत एआई तकनीक को सामान्य फूड ट्रक की तुलना में खराब विनियमित किया जाता है। इसे बदलना चाहिए।' उन्होंने आगे कहा कि 'केवल चार वर्षों में हम ChatGPT के पहले संस्करण से ऐसे एआई मॉडल तक पहुंचे हैं जो इतने शक्तिशाली हैं कि उन्हें ठीक से नियंत्रित नहीं किया जा सकता है। कांग्रेस को तुरंत उन एआई सिस्टमों पर प्रतिबंध लगाना चाहिए जो नियंत्रण के लिए बहुत शक्तिशाली हैं।'
इस बहस ने प्रौद्योगिकी उद्योग के कुछ प्रमुख हस्तियों का ध्यान आकर्षित किया। माइक्रोसॉफ्ट के संस्थापक बिल गेट्स ने पिछले सप्ताह कहा कि एआई उद्योग सुरक्षा थ्रेशोल्ड से आगे निकल गया है जिनका उसने पालन करने का वादा किया था। गेट्स ने प्रौद्योगिकी पर निरीक्षण बढ़ाने का आह्वान किया, और एएफपी ने बताया कि वह परमाणु उद्योग और विमानन में उपयोग किए जाने वाले निरीक्षण और विनियमन पर आधारित दृष्टिकोण का समर्थन कर रहे थे।
फिलहाल, तकनीक तेजी से विकसित हो रही है, जबकि कानून निर्माता और नियामक अधिक स्वायत्त एआई सिस्टम से जुड़े जोखिमों को प्रबंधित करने का सर्वोत्तम तरीका समझने की कोशिश कर रहे हैं। बहस अब केवल इस बारे में नहीं है कि एआई कितना शक्तिशाली हो सकता है, बल्कि इस बारे में भी है कि प्रौद्योगिकी की क्षमताओं के बढ़ने के साथ मनुष्यों को किस स्तर का नियंत्रण बनाए रखना चाहिए।