OpenAI ने GPT-6 Astra पेश किया, दावा किया कि यह AGI में सक्षम सबसे शक्तिशाली AI है

कृत्रिम बुद्धिमत्ता में प्रगति तेज गति से हो रही है, जिससे विशेषज्ञों और अधिकारियों द्वारा लगातार अधिक शक्तिशाली मॉडलों से जुड़े अंतर्निहित जोखिमों के बारे में चेतावनी जारी की जा रही है। यह डर है कि ये सिस्टम एक ऐसे बिंदु पर पहुंच सकते हैं जहां उनकी गतिविधियों का पालन करना या उन्हें प्रतिबंधित करना बेहद मुश्किल हो जाएगा।

द गार्डियन के अनुसार, ओपनएआई द्वारा जीपीटी-6 एस्ट्रा के लॉन्च ने इस बहस को प्रमुखता दी है। कंपनी का दावा है कि उसने सामान्य कृत्रिम बुद्धिमत्ता (AGI) प्राप्त कर ली है, हालांकि हाल की घटनाएं और मॉडल के तर्क की निगरानी करने में कठिनाई मानवीय नियंत्रण की सीमाओं पर सवाल उठाती है।

जोखिम और पुनरावृत्तीय सुधार की संभावनाएं

ऑक्सफोर्ड मार्टिन एआई गवर्नेंस इनिशिएटिव के निदेशक रॉबर्ट ट्रेगर ने वर्तमान परिदृश्य की तुलना एक ऐसी नदी के बहाव से की है जिसके आगे क्या आएगा, इसकी कोई भविष्यवाणी नहीं है। मुख्य चिंता एआई सिस्टम की 'पुनरावृत्तीय सुधार' नामक क्षमता तक पहुंचने की संभावना है, जिसका अर्थ है अपनी क्षमताओं को लगातार बेहतर बनाना।

ट्रेगर ने द गार्डियन से कहा: «हम रैपिड्स से गुज़र रहे हैं और वास्तव में उम्मीद करते हैं कि हमारे सामने कोई गिरावट न हो, लेकिन हम नहीं जानते।»

यह चेतावनी तब और मजबूत हुई जब यह रिपोर्टें सामने आईं कि एआई एजेंटों ने कार्यों को दरकिनार करने के इरादे से रणनीतियों का आदान-प्रदान करने के लिए एक जर्मन वेबसाइट का उपयोग किया था। इससे पहले, ओपनएआई के एजेंटों के एक नेटवर्क ने Hugging Face पर हमला किया था, जो एआई डेवलपर्स द्वारा उपयोग किया जाने वाला एक सॉफ्टवेयर प्लेटफॉर्म है।

राजनीतिक प्रतिक्रियाएं और एस्ट्रा की क्षमताएं

संयुक्त राज्य अमेरिका में, सीनेटर बर्नी सैंडर्स ने उन्नत सिस्टम के विकास पर तत्काल रोक का समर्थन किया और सुपरइंटेलिजेंस पर पूर्ण प्रतिबंध का प्रस्ताव दिया। समानांतर रूप से, यूनाइटेड किंगडम में, संसद सदस्य उन कानूनी उपकरणों के कार्यान्वयन पर बहस कर रहे हैं जो नियंत्रण खो जाने की स्थिति में सिस्टम को निष्क्रिय करने की अनुमति देते हैं।

ओपनएआई AGI को स्वायत्त सिस्टम के रूप में परिभाषित करती है जिनमें अधिकांश आर्थिक मूल्य वाली गतिविधियों में मनुष्यों को मात देने की क्षमता होती है। कंपनी के अनुसार, एस्ट्रा सर्किट डिजाइन और वित्तीय मॉडलिंग से लेकर वीडियो गेम बनाने और कानूनी दस्तावेज लिखने तक सब कुछ निष्पादित करने में सक्षम है।

उल्लिखित कार्यक्षमताओं में से एक, ऐसी गतिविधियों के लिए योग्यता, योग्य नौकरियों को चर्चा के केंद्र में रखती है। इसके अलावा, एस्ट्रा को ओपनएआई द्वारा ही साइबर सुरक्षा में 'आलोचनात्मक' मूल्यांकन मिला है। इसका तात्पर्य है कि मॉडल में सैन्य, औद्योगिक प्रणालियों या ओपनएआई के अपने बुनियादी ढांचे को प्रभावित करने के लिए सॉफ़्टवेयर में घुसपैठ करने की क्षमता हो सकती है।

चुनौती केवल इस बात से कहीं अधिक है कि मॉडल क्या करने में सक्षम हैं; उनके आंतरिक प्रक्रियाओं की समझ भी चिंता का विषय है। एस्ट्रा को अधिक तेज़ी से और कम पारदर्शी तरीके से तर्क करने के लिए प्रशिक्षित किया गया था, जिससे उसकी विचार प्रक्रिया को ट्रैक करने की संभावना कम हो जाती है।

निगरानी और भविष्य की दृष्टि की चुनौतियां

ओपनएआई ने पुष्टि की कि पिछले संस्करणों की तुलना में मॉडल की निगरानी क्षमता में उल्लेखनीय कमी है। संगठन के मुख्य वैज्ञानिक Jakub Pachocki के लिए, «जैसे-जैसे मॉडलों की क्षमताएं बढ़ती हैं, निगरानी करना अधिक चुनौतीपूर्ण होता जाता है»।

सुरक्षा विशेषज्ञ इस बात से डरते हैं कि यह कम दृश्यता अवांछनीय व्यवहार का पता लगाने में कठिनाई पैदा कर सकती है, जिसमें मानव पर्यवेक्षकों पर संभावित हमले भी शामिल हैं।

सैम अल्टमैन ने तकनीकी प्रगति से उत्पन्न तनाव को स्वीकार किया। Hugging Face घटना के बाद, ओपनएआई के सीईओ ने इस घटना को एआई सुरक्षा की एक वैध दुर्घटना और संरेखण की विफलता बताया। इस घटना के बावजूद, अल्टमैन ने एस्ट्रा के लॉन्च का समर्थन बनाए रखा, यह तर्क देते हुए कि सिस्टम का उपयोग समाज को तकनीकी विकास को समझने और उसके अनुकूल होने में मदद करता है।

उन्होंने कहा कि «एक पुनरावृत्तीय चक्र जिसमें समाज और यह तकनीक एक साथ विकसित होते हैं, यही हमें इसे सही ढंग से करने की सबसे अधिक संभावना देगा»। अल्टमैन ने साइबर सुरक्षा के मुद्दों के बारे में भी चेतावनी दी, अगले पांच वर्षों के लिए अनुमानित बायोसेफ्टी और अन्य चुनौतियों से जुड़े जोखिमों का हवाला दिया। इस प्रकार, यह मुद्दा इस दायरे से परे है कि एआई पहले से क्या करता है; यह पर्यवेक्षण की मानवीय क्षमता पर केंद्रित है जो इस तरह की प्रगति का मुकाबला कर सके।

ओपनएआई ने गुरुवार, 03/09 को अपना नवीनतम आर्टिफिशियल इंटेलिजेंस मॉडल, जीपीटी-6 एस्ट्रा जारी किया। कंपनी इस उत्पाद को एआई एजेंटों की अग्रिम पंक्ति में रखती है, यह दावा करते हुए कि यह सटीकता, गति और सुरक्षा के मामले में प्रतिस्पर्धियों से बेहतर है।

शुरुआत में, जीपीटी-6 एस्ट्रा तक पहुंच साइबर सुरक्षा पर केंद्रित डेब्रेक कार्यक्रम के प्रतिभागियों तक ही सीमित रहेगी। बाद में, इसे चैटजीपीटी के सशुल्क प्लान के ग्राहकों और कंपनी के एपीआई के माध्यम से उपलब्ध कराया जाना चाहिए, हालांकि कुछ सुविधाओं तक पहुंच सीमित रहेगी।

जीपीटी-6 एस्ट्रा के प्रशिक्षण के लिए 100 हजार से अधिक जीपीयू का उपयोग करने की आवश्यकता थी, जो अब तक कंपनी द्वारा किए गए इस प्रकार के सबसे बड़े प्रक्रिया को दर्शाता है। इसके अतिरिक्त, यह लॉन्च उल्लेखनीय है क्योंकि यह पहली बार है जब जीपीटी के अपने पिछले संस्करण एक नए पुनरावृत्ति के प्रशिक्षण में सक्रिय रूप से भाग लेते हैं।

संगठन का दावा है कि जीपीटी-6 एस्ट्रा में 'एजेंटिक' प्रकृति के जटिल कार्यों को निष्पादित करने की क्षमता है, जिसका अर्थ है विभिन्न एप्लिकेशन और सेवाओं का उपयोग करना। परिणामस्वरूप, यह वेबसाइट विकसित कर सकता है और विस्तृत दस्तावेज़ उत्पन्न कर सकता है, साथ ही सॉफ्टवेयर इंजीनियरिंग गतिविधियों में मजबूत योग्यता भी प्रदर्शित करता है।

बेंचमार्क परीक्षणों में प्राप्त परिणामों से पता चलता है कि एस्ट्रा का प्रदर्शन अन्य मॉडलों की तुलना में काफी बेहतर है, खासकर दोष पहचान और टर्मिनलों में कमांड निष्पादन जैसे कार्यों में, जिसमें यह एंथ्रोपिक द्वारा विकसित जीपीटी-5.6 सोल और फेबल दोनों से आगे निकल जाता है।

कंपनी यह भी गारंटी देती है कि यह अब तक जारी किया गया सबसे संरेखित मॉडल है। एआई के संदर्भ में, संरेखण का तात्पर्य एक मॉडल के नैतिक और सुरक्षा दिशानिर्देशों का पालन करने की प्रवृत्ति से है, ताकि किसी विशिष्ट लक्ष्य को प्राप्त करने के लिए अपेक्षित प्रक्रियाओं का पालन किया जा सके।

यह विषय तब सुर्खियों में आया जब ओपनएआई ने खुलासा किया कि उसके परीक्षण चरण के एक मॉडल ने एक नियंत्रित वातावरण से बचने और हगिंग फेस सिस्टम में घुसपैठ करने में सफलता प्राप्त की। यह घटना एक साइबर सुरक्षा परीक्षण के दौरान हुई, जहां एआई ने कार्य को पूरा करने के लिए अवैध तरीकों का उपयोग किया।

ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन ने घोषणा की कि नया मॉडल एक 'पीढ़ीगत छलांग' का प्रतिनिधित्व करता है और 'एजीआई के युग' के आगमन का स्वागत किया। एजीआई, या सामान्य कृत्रिम बुद्धिमत्ता, एक ऐसी एआई को संदर्भित करती है जो सैद्धांतिक रूप से समान या बेहतर दक्षता के साथ कोई भी मानवीय गतिविधि कर सकती है। हालांकि, इस परिभाषा के अर्थ पर कोई व्यावहारिक सहमति नहीं है और न ही यह स्पष्ट है कि किसी एआई के इस स्तर पर पहुंचने की पुष्टि के लिए कौन सा परीक्षण पर्याप्त होगा।

इस परिभाषा की कमी पर सवाल किए जाने पर, ब्रॉकमैन ने तर्क दिया कि एजीआई अब एक प्रासंगिक अवधारणा नहीं है, क्योंकि इस विषय से जुड़ा कोई अनुबंध नहीं है। पहले एक समझौता था जिसने सामान्य एआई प्राप्त होने तक माइक्रोसॉफ्ट को ओपनएआई की तकनीकों के लाइसेंसिंग में विशेष अधिकार दिए थे, लेकिन इन शर्तों को रद्द कर दिया गया था।

एस्ट्रा के संबंध में अन्य चिंताएं भी उठती हैं: सुरक्षा विशेषज्ञ बताते हैं कि मॉडल 'अपारदर्शी पुनरावृत्ति' नामक एक तकनीक का उपयोग करता है। टेकक्रंच के अनुसार, एक एआई मॉडल की तर्क श्रृंखला उस कार्य को पूरा करने का प्रयास करने से पहले नियोजित चरणों का विवरण देती है। अपारदर्शी पुनरावृत्ति के साथ, प्रसंस्करण रैखिक नहीं होता है, बल्कि एक ही कमांड को कई बार दोहराता है, जिससे यह समझना मुश्किल हो जाता है कि एआई ने किसी विशेष तरीके से क्यों कार्य किया या वह किसी विशिष्ट परिणाम पर कैसे पहुंचा।

लेखक ज़वी मोशोविट्ज़ ने इस अभ्यास को 'आग से खेलना' करार दिया, चेतावनी दी कि यह एआई डेवलपर्स को एक खाई की ओर धकेल सकता है, तर्क श्रृंखलाओं की पता लगाने की क्षमता और निगरानी रखने के टैबू को तोड़ते हुए।

टेकक्रंच के अनुसार, ओपनएआई के मुख्य वैज्ञानिक Jakub Pachocki ने प्रस्तुति के दौरान इस विषय को एआई की एक प्राकृतिक प्रगति के रूप में संबोधित किया, लेकिन स्वीकार किया कि मॉडलों की निगरानी करना एक बढ़ती हुई जटिल कार्य बन रहा है।