कृत्रिम बुद्धिमत्ता में प्रगति तेज गति से हो रही है, जिससे विशेषज्ञों और अधिकारियों द्वारा लगातार अधिक शक्तिशाली मॉडलों से जुड़े अंतर्निहित जोखिमों के बारे में चेतावनी जारी की जा रही है। यह डर है कि ये सिस्टम एक ऐसे बिंदु पर पहुंच सकते हैं जहां उनकी गतिविधियों का पालन करना या उन्हें प्रतिबंधित करना बेहद मुश्किल हो जाएगा।
द गार्डियन के अनुसार, ओपनएआई द्वारा जीपीटी-6 एस्ट्रा के लॉन्च ने इस बहस को प्रमुखता दी है। कंपनी का दावा है कि उसने सामान्य कृत्रिम बुद्धिमत्ता (AGI) प्राप्त कर ली है, हालांकि हाल की घटनाएं और मॉडल के तर्क की निगरानी करने में कठिनाई मानवीय नियंत्रण की सीमाओं पर सवाल उठाती है।
जोखिम और पुनरावृत्तीय सुधार की संभावनाएं
ऑक्सफोर्ड मार्टिन एआई गवर्नेंस इनिशिएटिव के निदेशक रॉबर्ट ट्रेगर ने वर्तमान परिदृश्य की तुलना एक ऐसी नदी के बहाव से की है जिसके आगे क्या आएगा, इसकी कोई भविष्यवाणी नहीं है। मुख्य चिंता एआई सिस्टम की 'पुनरावृत्तीय सुधार' नामक क्षमता तक पहुंचने की संभावना है, जिसका अर्थ है अपनी क्षमताओं को लगातार बेहतर बनाना।
ट्रेगर ने द गार्डियन से कहा: «हम रैपिड्स से गुज़र रहे हैं और वास्तव में उम्मीद करते हैं कि हमारे सामने कोई गिरावट न हो, लेकिन हम नहीं जानते।»
यह चेतावनी तब और मजबूत हुई जब यह रिपोर्टें सामने आईं कि एआई एजेंटों ने कार्यों को दरकिनार करने के इरादे से रणनीतियों का आदान-प्रदान करने के लिए एक जर्मन वेबसाइट का उपयोग किया था। इससे पहले, ओपनएआई के एजेंटों के एक नेटवर्क ने Hugging Face पर हमला किया था, जो एआई डेवलपर्स द्वारा उपयोग किया जाने वाला एक सॉफ्टवेयर प्लेटफॉर्म है।
राजनीतिक प्रतिक्रियाएं और एस्ट्रा की क्षमताएं
संयुक्त राज्य अमेरिका में, सीनेटर बर्नी सैंडर्स ने उन्नत सिस्टम के विकास पर तत्काल रोक का समर्थन किया और सुपरइंटेलिजेंस पर पूर्ण प्रतिबंध का प्रस्ताव दिया। समानांतर रूप से, यूनाइटेड किंगडम में, संसद सदस्य उन कानूनी उपकरणों के कार्यान्वयन पर बहस कर रहे हैं जो नियंत्रण खो जाने की स्थिति में सिस्टम को निष्क्रिय करने की अनुमति देते हैं।
ओपनएआई AGI को स्वायत्त सिस्टम के रूप में परिभाषित करती है जिनमें अधिकांश आर्थिक मूल्य वाली गतिविधियों में मनुष्यों को मात देने की क्षमता होती है। कंपनी के अनुसार, एस्ट्रा सर्किट डिजाइन और वित्तीय मॉडलिंग से लेकर वीडियो गेम बनाने और कानूनी दस्तावेज लिखने तक सब कुछ निष्पादित करने में सक्षम है।
उल्लिखित कार्यक्षमताओं में से एक, ऐसी गतिविधियों के लिए योग्यता, योग्य नौकरियों को चर्चा के केंद्र में रखती है। इसके अलावा, एस्ट्रा को ओपनएआई द्वारा ही साइबर सुरक्षा में 'आलोचनात्मक' मूल्यांकन मिला है। इसका तात्पर्य है कि मॉडल में सैन्य, औद्योगिक प्रणालियों या ओपनएआई के अपने बुनियादी ढांचे को प्रभावित करने के लिए सॉफ़्टवेयर में घुसपैठ करने की क्षमता हो सकती है।
चुनौती केवल इस बात से कहीं अधिक है कि मॉडल क्या करने में सक्षम हैं; उनके आंतरिक प्रक्रियाओं की समझ भी चिंता का विषय है। एस्ट्रा को अधिक तेज़ी से और कम पारदर्शी तरीके से तर्क करने के लिए प्रशिक्षित किया गया था, जिससे उसकी विचार प्रक्रिया को ट्रैक करने की संभावना कम हो जाती है।
निगरानी और भविष्य की दृष्टि की चुनौतियां
ओपनएआई ने पुष्टि की कि पिछले संस्करणों की तुलना में मॉडल की निगरानी क्षमता में उल्लेखनीय कमी है। संगठन के मुख्य वैज्ञानिक Jakub Pachocki के लिए, «जैसे-जैसे मॉडलों की क्षमताएं बढ़ती हैं, निगरानी करना अधिक चुनौतीपूर्ण होता जाता है»।
सुरक्षा विशेषज्ञ इस बात से डरते हैं कि यह कम दृश्यता अवांछनीय व्यवहार का पता लगाने में कठिनाई पैदा कर सकती है, जिसमें मानव पर्यवेक्षकों पर संभावित हमले भी शामिल हैं।
सैम अल्टमैन ने तकनीकी प्रगति से उत्पन्न तनाव को स्वीकार किया। Hugging Face घटना के बाद, ओपनएआई के सीईओ ने इस घटना को एआई सुरक्षा की एक वैध दुर्घटना और संरेखण की विफलता बताया। इस घटना के बावजूद, अल्टमैन ने एस्ट्रा के लॉन्च का समर्थन बनाए रखा, यह तर्क देते हुए कि सिस्टम का उपयोग समाज को तकनीकी विकास को समझने और उसके अनुकूल होने में मदद करता है।
उन्होंने कहा कि «एक पुनरावृत्तीय चक्र जिसमें समाज और यह तकनीक एक साथ विकसित होते हैं, यही हमें इसे सही ढंग से करने की सबसे अधिक संभावना देगा»। अल्टमैन ने साइबर सुरक्षा के मुद्दों के बारे में भी चेतावनी दी, अगले पांच वर्षों के लिए अनुमानित बायोसेफ्टी और अन्य चुनौतियों से जुड़े जोखिमों का हवाला दिया। इस प्रकार, यह मुद्दा इस दायरे से परे है कि एआई पहले से क्या करता है; यह पर्यवेक्षण की मानवीय क्षमता पर केंद्रित है जो इस तरह की प्रगति का मुकाबला कर सके।