आर्टिफिशियल इंटेलिजेंस की धारणा का विकास: सहायक से अस्तित्वगत खतरे तक

पिछले सप्ताह की खबरों में इस बात पर चर्चा हुई कि क्या आर्टिफिशियल इंटेलिजेंस मानवता के अंत का कारण बनेगा, क्योंकि इस तकनीक की प्रगति ने सर्वनाशकारी जोखिमों के संबंध में चिंताएं पैदा की हैं। यह लेख बताता है कि कैसे एआई एक सहयोगी से मानव प्रजाति के लिए संभावित अस्तित्वगत खतरे में बदल गया है।

यह प्रक्रिया आंतरिक घटना रिपोर्टों से शुरू हुई, जो शोधकर्ताओं के काम छोड़ने के बयानों और सामान्य प्रबंधकों द्वारा युद्धविराम का आह्वान करने वाले घोषणापत्रों में बदल गई, जिसने भू-राजनीतिक परिणाम भी उत्पन्न किए।

पहली घटना आंतरिक सुरक्षा परीक्षणों के दौरान हुई जब Anthropic के Claude मॉडल को इंटरनेट तक पहुंच मिली। यह कंपनी और उसके परीक्षण भागीदार के बीच सेटिंग्स में मानवीय त्रुटि का परिणाम था। यह मानते हुए कि वे एक अनुकरण वातावरण में थे, एआई ने स्वयं साइबर हमले किए और तीन वास्तविक संगठनों की प्रणालियों में घुसपैठ की।

इस घटना, जिसमें तीन मॉडल (Opus 4.7, Mythos 5 और आंतरिक प्रोटोटाइप) शामिल थे, अप्रैल में हुई थी, लेकिन यह केवल जुलाई के अंत में सार्वजनिक हुई जब Anthropic ने संबंधित रिपोर्ट प्रकाशित की।

जुलाई में OpenAI और Hugging Face के बीच एक घटना हुई। कंपनी ने स्वीकार किया कि प्रायोगिक मॉडल (GPT-5.6 Sol सहित) द्वारा स्थापित मानवीय सीमाओं का उल्लंघन किया गया था। सुरक्षा परीक्षण के दौरान, OpenAI एजेंटों ने एक भेद्यता का पता लगाया और उसका उपयोग किया, जिससे वे परीक्षण वातावरण (सैंडबॉक्स) से बाहर निकल गए, वेब तक पहुंच प्राप्त की और Hugging Face प्लेटफॉर्म के सर्वरों पर हमला किया।

सितंबर की शुरुआत में, OpenAI में काम करने वाले शोधकर्ता जेकब कॉक्सन ने Anthropic से इस्तीफा दे दिया। पहले OpenAI में GPT-4o जैसे मॉडलों के पूर्व-प्रशिक्षण पर काम करने वाले कॉक्सन ने Anthropic में भी इसी क्षेत्र में काम किया था। नौकरी छोड़ने के बाद, कॉक्सन ने एक चेतावनी प्रकाशित की जो वायरल हो गई। शोधकर्ता के अनुसार, दोनों कंपनियां 'सुपरइंटेलिजेंस की ओर बढ़ रही हैं जो आत्म-सुधार करने में सक्षम है, हमारी जान दांव पर लगा रही है'।

Anthropic में अलाइनमेंट निदेशक, एवन हुबिंगर ने अपने पूर्व सहयोगी की चिंताओं की पुष्टि की और इस चेतावनी में एक और वायरल पहलू जोड़ा। उन्होंने लिखा: 'हम ईमानदारी से मानते हैं कि एआई मनुष्यों को मार सकता है! व्यक्तिगत रूप से, मेरा मानना है कि अगले दशक में इसकी संभावना 10% से अधिक है'।

तकनीकी और नवाचार विशेषज्ञ आर्थर इग्रहा ने कार्यप्रणाली पर संदेह व्यक्त करते हुए कहा: 'मुझे पद्धति और सबूतों की कमी चिंतित करती है'। उन्होंने 10% गणना पर सवाल उठाया, यह मांग करते हुए कि दिखाया जाए कि यह कैसे गणना की जाती है और क्या आधार हैं।

इग्रहा ने यह भी उल्लेख किया कि यदि इसे जोखिम तालिका में रखा जाता है, तो उन्हें इस बात की अधिक चिंता है कि लोग दशक के अंत तक गलत निर्णय लेते हैं।

अन्य शोधकर्ताओं, जैसे OpenAI से जूली स्टील और गूगल (DeepMind) से एंड्रियास किरश ने भी सर्वनाशकारी आशंकाएं व्यक्त कीं। समानांतर रूप से, पूर्व कर्मचारियों ने सामूहिक सुरक्षा उपायों के पक्ष में दबाव बनाने के लिए एआई चिंतित कर्मचारी गठबंधन का आयोजन किया।

Anthropic के सीईओ, डारियो अमोडेई ने 12 सितंबर को एक लेख प्रकाशित किया जिसमें स्वीकार किया कि 'पुनरावृत्तीय आत्म-सुधार' के कारण एआई मॉडल का विकास बहुत तेजी से हो रहा है। इसलिए, नेता ने क्षेत्र की कंपनियों के बीच विकास की गति को समन्वित रूप से धीमा करने का प्रस्ताव दिया।

अमोडेई ने तीन चरणों वाली एक योजना प्रस्तुत की। पहला - बाहरी मूल्यांकनकर्ताओं के लिए दरवाजे खोलना, जिन्हें कंपनियों की प्रयोगशालाओं तक स्थायी पहुंच प्राप्त होगी। दूसरा - लोकतंत्रों के बीच समन्वय, जहां पश्चिमी सरकारें और निगम सुरक्षा मानकों और विकास की सीमाओं को परिभाषित करेंगे। तीसरा - वैश्विक समन्वय, जिसका उद्देश्य खतरनाक जैविक उपयोग पर प्रतिबंध लगाने और एआई के पुनरावृत्तीय आत्म-सुधार पर सीमाएं निर्धारित करने के लिए लोकतांत्रिक राष्ट्रों और सत्तावादी शासनों (जैसे चीन) के बीच समझौते हासिल करना है।

अगले कुछ दिनों में, सैम अल्टमैन (OpenAI) और एलोन मस्क (xAI) के सीईओ, साथ ही गूगल डीपमाइंड के पूर्व सीईओ डेमिस हस्साबीस ने अमोडेई के लेख से सहमति व्यक्त की। हस्साबीस ने X (पूर्व में ट्विटर) पर लिखा: 'डारियो का शोध सही रास्ते की ओर इशारा करता है। विवरणों पर काम करने की आवश्यकता है, लेकिन दिशा इस महत्वपूर्ण क्षण का मुकाबला करने के लिए सही है'। मस्क ने उनका समर्थन करते हुए लिखा: 'डारियो सही हैं'।

अल्टमैन ने भी अपने X पोस्ट में कहा कि धीमा होना रुकना नहीं है, बल्कि ऑडिट और सुरक्षा परीक्षणों पर खर्च होने वाले खर्च को कवर करने की आवश्यकता है। लक्ष्य ऐसी स्थिति को रोकना है जहां मॉडलों की क्षमता उनकी संरेखण स्तर से अधिक हो जाए।

आर्थर इग्रहा ने 30 सितंबर 2023 की घटना की याद दिलाई, जब एक हजार से अधिक हस्ताक्षरकर्ताओं वाले याचिका ने अत्यधिक खतरे के कारण एआई विकास को छह महीने के लिए निलंबित करने की मांग की थी। उन्होंने उल्लेख किया कि तीन साल से अधिक समय बाद भी ऐसा नहीं हुआ है, और उद्योग में प्रयास को एकजुट करना बेहद मुश्किल मानते हैं।

विशेषज्ञ की टिप्पणी के कुछ दिनों बाद, मार्क ज़करबर्ग (Meta) और जेनसेन हुआंग (Nvidia) के सीईओ ने समन्वित धीमेपन का विरोध किया। ज़करबर्ग ने तर्क दिया कि प्रयोगशालाओं के पास पहले से ही सुरक्षित एआई बनाने के लिए पर्याप्त वित्तीय और कानूनी प्रोत्साहन हैं। हुआंग ने कहा कि सुरक्षा एक इंजीनियरिंग समस्या है, और मौजूदा कानून उत्पादों की विश्वसनीयता सुनिश्चित करते हैं।

अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने अमोडेई, अल्टमैन और मस्क की चेतावनियों को नजरअंदाज कर दिया, एआई से जुड़े संभावित जोखिमों को कम कर दिया। उन्होंने चीन पर अमेरिकी नेतृत्व बनाए रखने पर जोर दिया, आयरलैंड की यात्रा के दौरान कहा: 'जो एआई में जीतेगा, वह जीतेगा'। रिपब्लिकन प्रशासन के लिए तकनीकी नेतृत्व बनाए रखना राष्ट्रीय सुरक्षा का मामला है।

कांग्रेस में रिपब्लिकन सावधानीपूर्वक विनियमन का समर्थन करते हैं। हाउस स्पीकर माइक जॉनसन ने कहा कि त्वरित विनियमन 'अमेरिकी नवाचार को गला घोंट सकता है' और अमेरिका की चीन के साथ तकनीकी दौड़ में हार का कारण बन सकता है।

जबकि ट्रम्प उपेक्षा से प्रतिक्रिया देते हैं, चीन ने Anthropic के सीईओ के लेख पर दृढ़ता से प्रतिक्रिया दी। राज्य समाचार पत्र ग्लोबल टाइम्स के संपादकीय लेख के माध्यम से, एशिया का देश दावा करता है कि अमोडेई के लेख का उद्देश्य 'शीत युद्ध मार्गदर्शिका' बनाना था, जिसका उद्देश्य चीनी प्रगति को रोकना और अमेरिकी तकनीकी प्रभुत्व बनाए रखना था।

चीनी प्रकाशन के पाठ में अमेरिकी नेताओं के रुख को 'पाखंडी और недальноदर्शी' के रूप में भी चित्रित किया गया था, यह तर्क देते हुए कि चीन को वैश्विक एआई नवाचार से बाहर करना अपने स्वयं के प्रौद्योगिकी नियंत्रण खोने के जोखिम को बढ़ाता है।

14 सितंबर को संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त वोल्कर टर्क ने एक खुला पत्र प्रकाशित किया, जिसमें चेतावनी दी कि स्वैच्छिक आत्म-नियमन 'अत्यंत अपर्याप्त' है। उन्होंने इस बात पर जोर दिया कि स्वायत्त एआई के लिए अनियंत्रित दौड़ मानवाधिकारों के लिए सीधे अस्तित्वगत जोखिम पैदा करती है।

टर्क इस बात पर जोर देते हैं कि कोई भी देश इस तकनीक को अकेले नियंत्रित नहीं कर सकता है, और किसी भी कंपनी को यह तय करने का अधिकार नहीं है कि समाज को कौन से जोखिम उठाने चाहिए। आयुक्त ने मांग की कि प्रमुख प्रयोगशालाओं के स्थानों वाले देशों, विशेष रूप से अमेरिका और चीन, में अनिवार्य नियम लागू हों। इनमें मानवाधिकार ऑडिट, क्षमताओं की स्वतंत्र जांच और गंभीर घटनाओं की सूचना देना शामिल है। टर्क के अनुसार, लक्ष्य 'तल में दौड़' को रोकने के लिए वैश्विक मानकों का समन्वय होना चाहिए।

संयुक्त राष्ट्र के प्रमुख ने विकास को धीमा करने के लिए उद्योग के प्रस्तावों (जैसे Anthropic द्वारा प्रस्तावित पहल) की सकारात्मक रूप से सराहना की, लेकिन इस विचार को खारिज कर दिया कि सुरक्षा आवश्यकताएं नवाचार को बाधित करती हैं।

एआई विशेषज्ञ जॉन पार्क, AGI Inc. की तकनीकी टीम के सदस्य, सवाल उठाते हैं: जब कोई कंपनी अपनी तकनीक की असाधारण शक्ति, परिवर्तनकारी और संभावित रूप से खतरनाक प्रकृति के बारे में बताती है तो संदेश क्या संप्रेषित होता है? पार्क का तर्क है कि 'कंपनियां जो एआई में अग्रणी हैं, वे अपनी तकनीकों का वर्णन कैसे करती हैं और बाजार उन्हें कितना आर्थिक मूल्य प्रदान कर सकता है, इसके बीच एक स्वाभाविक संबंध है'।

विशेषज्ञ के अनुसार, जब कोई कंपनी इस बात पर जोर देती है कि उसके मॉडल न केवल शक्तिशाली हैं, बल्कि इतने शक्तिशाली हैं कि वे समाज को बदल सकते हैं और साथ ही अभूतपूर्व जोखिम भी पैदा कर सकते हैं, तो तीन संदेश भेजे जाते हैं। पहला - तकनीक अत्यंत सक्षम है। दूसरा - इसका संभावित प्रभाव बहुत बड़ा हो सकता है। और तीसरा, जो निवेशकों को लग सकता है, वह यह है कि इस तकनीक को विकसित करने वाली कंपनी को भारी आर्थिक लाभ मिल सकता है।

కెన్నెట్ కోర్రేయా, नई तकनीकों के विशेषज्ञ और FGV के प्रोफेसर, बताते हैं कि ये विचार परस्पर मजबूत होते हैं, लेकिन इसका मतलब यह नहीं है कि जोखिम काल्पनिक या अतिरंजित हैं। कोररेया का मानना है कि एआई विकास की गति को धीमा करने पर बहस 'कई बिंदुओं को मिलाती है जिनसे हम गुजर रहे हैं'।

वह समझाते हैं कि एक बिंदु यह है कि सवाल यह नहीं है कि मॉडल खुद कुछ करता है, बल्कि 'प्रबंधन' है - नेटवर्क तक पहुंच और इन प्रौद्योगिकियों की उन्नति के लिए शक्ति में उपकरण। दूसरा बिंदु यह याद दिलाना है कि ये तकनीकी कंपनियां भी ऐसे चरण में हैं जहां उन्हें यह नैरेटिव बनाए रखने की आवश्यकता है कि वे खरबों डॉलर मूल्य की हैं।

कोररेया एक महत्वपूर्ण बिंदु पर प्रकाश डालते हैं: 'Anthropic और OpenAI, इस तकनीक की विकास दर का मानक स्थापित करके, वास्तव में नई और विघटनकारी कंपनियों के लिए एक बाधा बना रहे हैं ताकि वे बाजार में आ सकें और कुछ नया और अलग पेश कर सकें। इस प्रकार, उनके लिए इस तरह की सीमा निर्धारित करना बहुत आरामदायक जगह है'।

इसके अलावा, कोररेया जोड़ते हैं कि एआई कंपनियों के अस्तित्व की सीमा की रक्षा करके, वे एक ऐसा नैरेटिव बनाते हैं जो उनके अपने मूल्यांकन को बढ़ाता है - यानी, कंपनी इतनी शक्तिशाली मॉडल होने के कारण अधिक महंगी हो जाती है। वह निष्कर्ष निकालते हैं: 'जब हम इन सभी को एक साथ लाते हैं, तो हमें याद रखना होगा कि यहां कुछ भी निर्दोष रूप से नहीं किया जा रहा है। एक नैरेटिव मौजूद है, हितों का टकराव मौजूद है, और अतीत में ऐसे क्षण आए हैं जब एआई के लिए इन सीमाओं को स्थापित करने या न करने के महत्व पर चर्चा की गई थी'।