प्रमुख एआई डेवलपर्स नियंत्रण तंत्र प्रस्तावित करते हुए दौड़ को धीमा करने का सुझाव देते हैं

उन्नत कृत्रिम बुद्धिमत्ता विकसित करने वाली प्रमुख कंपनियों के नेताओं ने तेजी से बढ़ती शक्तिशाली मॉडलों की विकास दर को कम करने की आवश्यकता पर अपनी राय व्यक्त करना शुरू कर दिया है। शुरुआत में, Anthropic के प्रमुख Dario Amodei ने एक विशिष्ट योजना के साथ कदम रखा, लेकिन जल्द ही OpenAI, Google DeepMind और xAI के नेताओं ने उनके रुख का समर्थन किया। यह पता चला है कि इन संगठनों में से कुछ सार्वजनिक घोषणाओं से पहले ही एआई के विकास के लिए एक सामान्य नियामक तंत्र बनाने पर चर्चा कर रहे थे।

अमोडेई ने 12 सितंबर को विकास रोकने के बजाय केवल एक अधिक मध्यम गति स्थापित करने का प्रस्ताव दिया। उन्होंने जोर दिया कि कंपनियों को स्वतंत्र मूल्यांकनकर्ताओं को अपनी आंतरिक प्रक्रियाओं तक निरंतर पहुंच प्रदान करनी चाहिए, सुरक्षा के लिए सामान्य मानकों पर सहमत होना चाहिए और लंबी अवधि में अंतरराष्ट्रीय समन्वय प्राप्त करना चाहिए।

इसके समानांतर, सैम ऑल्टमैन ने 'गति धीमी करने' की आवश्यकता पर सहमति व्यक्त की, और एलोन मस्क ने Anthropic की पहल का समर्थन किया। गूगल डीपमाइंड के प्रमुख डेमिस हस्साबीस ने भी सकारात्मक प्रतिक्रिया दी। यह ध्यान देने योग्य है कि यह प्रस्ताव उन कंपनियों से आ रहा है जो सबसे शक्तिशाली मॉडल बनाने के क्षेत्र में सीधी प्रतिस्पर्धी हैं, जिससे यह सवाल उठता है कि क्या यह एक सामान्य खतरे के सामने संयोग है या बाजार के नेताओं के बीच अधिक घनिष्ठ सहयोग की शुरुआत है।

बंद बातचीत में क्या चर्चा हुई

अधिक महत्वपूर्ण जानकारी सार्वजनिक बयानों में नहीं, बल्कि प्रारंभिक बैठकों की जानकारी में सामने आई। द वाशिंगटन पोस्ट की रिपोर्ट के अनुसार, अमोडेई के सार्वजनिक आह्वान से पहले, Anthropic, OpenAI और Google एआई के लिए सुरक्षा मानक स्थापित करने के लिए एक नई उद्योग संरचना बनाने पर चर्चा कर रहे थे। इस तरह के तंत्र के विचार को पहले भी हस्साबीस द्वारा उठाया गया था।

यह भी उल्लेखनीय है कि ऑल्टमैन ने पहले प्रमुख डेवलपर्स के बीच स्वैच्छिक समझौते की संभावना के बारे में बात की थी। हाल ही में, उन्होंने बाहरी ऑडिटरों के साथ सहयोग करने के लिए OpenAI की तत्परता की पुष्टि की। यह ध्यान रखना महत्वपूर्ण है कि OpenAI अन्य प्रमुख कंपनियों के साथ सुरक्षा बढ़ाने और विकास की गति को धीमा करने के उपायों पर सहमत हो सकती है।

चिंता के कारण

कंपनियों के पास चिंता करने के स्पष्ट कारण हैं। आधुनिक एआई एजेंटों में पहले से ही कार्यों के अनुक्रमों को स्वतंत्र रूप से निष्पादित करने, इंटरनेट संसाधनों के साथ इंटरैक्ट करने और उपकरणों का उपयोग करने की क्षमता है, जो उन्हें सामान्य चैटबॉट के कार्यों से कहीं आगे ले जाता है।

एक स्पष्ट उदाहरण Hugging Face प्लेटफॉर्म के साथ OpenAI की घटना थी। परीक्षण के दौरान, एआई एजेंट परीक्षण वातावरण से बाहर निकल गए, नेटवर्क तक पहुंच प्राप्त की और परीक्षण पास करने के लिए आवश्यक डेटा प्राप्त करने के प्रयास में सेवा के बुनियादी ढांचे में घुसपैठ की।

अमोडेई इस मामले को एक अलग गलती के रूप में नहीं, बल्कि एक संकेत के रूप में देखता है कि एआई क्षमताओं की विकास दर डेवलपर्स की उसके व्यवहार को नियंत्रित करने की क्षमता से अधिक हो सकती है। उनके अनुमानों के अनुसार, यदि वर्तमान गति बनी रहती है, तो अधिक परिष्कृत प्रणालियाँ अगले छह से बारह महीनों में सैकड़ों अरब डॉलर का नुकसान पहुंचा सकती हैं।

इसके अलावा, इसी तरह की घटनाओं की संख्या बढ़ रही है। पहले स्वायत्त प्रणालियों द्वारा निर्देशों की अनदेखी करने, सीमाओं को दरकिनार करने या मूल उद्देश्यों के विरुद्ध कार्य करने के मामलों में तेज वृद्धि दर्ज की गई थी। यह प्रवृत्ति अधिक सख्त नियंत्रण लागू करने के पक्ष में तर्क बन गई है।

फिर भी, वर्तमान स्थिति दो-तीन साल पहले हुई चर्चाओं से अलग है। उस समय, एआई के विकास को धीमा करने के आह्वान को भविष्य की प्रणालियों के संभावित जोखिमों पर बहस के रूप में देखा गया था। अब, डेवलपर्स पहले से ही काम कर रहे स्वायत्त एजेंटों के व्यवहार पर चर्चा कर रहे हैं और यह समझने की कोशिश कर रहे हैं कि उन मॉडलों को कैसे नियंत्रित किया जाए जो स्वतंत्र रूप से योजना बना सकते हैं और कार्य कर सकते हैं।

दौड़ को धीमा करने से कौन लाभान्वित होता है

बड़ी निगम वास्तव में एआई के अत्यधिक तेजी से विकास से डर सकते हैं। हालांकि, एक समान गति पर समझौते तक पहुंच प्रतिस्पर्धात्मक माहौल को बदल सकती है। विशेषज्ञ वेंकटेश राव का मानना है कि यदि प्रमुख कंपनियां किसी निश्चित स्तर से तेजी से मॉडल क्षमताओं को बढ़ाने पर सहमत होती हैं, तो उनके लिए प्रशिक्षण और बुनियादी ढांचे की लागत को नियंत्रित करना आसान हो जाएगा, और नए खिलाड़ियों के लिए तकनीकी अंतर को पाटना कठिन होगा।

इसके अलावा, बड़ी कंपनियों को यह निर्धारित करने में भाग लेने का अवसर मिलेगा कि कौन सा सुरक्षा स्तर और विकास की गति स्वीकार्य है। यही कारण है कि सुरक्षा के लिए एक उद्योग निकाय का विचार विवाद का विषय है। एक ओर, बाहरी नियंत्रण कंपनी को अपने वादों को पूरा करने में मदद कर सकता है। अमोडेई Anthropic की कार्यप्रणाली तक बाहरी मूल्यांकनकर्ताओं को पहुंच प्रदान करने का प्रस्ताव करता है, जो उन्हें प्रभावी रूप से आंतरिक जोखिम मूल्यांकन विशेषज्ञों के बराबर अधिकार देता है।

दूसरी ओर, सबसे बड़े डेवलपर्स द्वारा विकसित नियम संभावित रूप से छोटे प्रतिस्पर्धियों के सामने उनकी स्थिति को मजबूत कर सकते हैं। इस प्रकार, सुरक्षा के मुद्दों पर चर्चा एक ही समय में इस बात पर बहस में बदल जाती है कि उन्नत एआई के विकास के नियमों को कौन निर्धारित करेगा।

चीन एक प्रमुख समस्या के रूप में

वैश्विक धीमेपन का विचार भू-राजनीतिक विरोधाभासों का सामना करता है, खासकर चीन के संबंध में। अमोडेई चेतावनी देता है कि एआई के क्षेत्र में चीन का नेतृत्व अमेरिका और विश्व समुदाय के लिए एक गंभीर खतरा है, इसलिए वह अमेरिकी तकनीकी बढ़त बनाए रखने और चीन में उन्नत उपकरण और चिप्स की आपूर्ति पर प्रतिबंध लगाने का समर्थन करता है।

हालांकि, Anthropic के प्रमुख स्वीकार करते हैं कि बीजिंग की भागीदारी के बिना वैश्विक धीमापन असंभव है। उनके दृष्टिकोण में, चीन को एआई सुरक्षा पर अंतरराष्ट्रीय समझौतों में शामिल किया जाना चाहिए। एक विरोधाभास उत्पन्न होता है: अमेरिका एआई के सुरक्षित विकास पर चीन के साथ समझौता करने की मांग करता है, जबकि साथ ही उसे महत्वपूर्ण प्रौद्योगिकियों तक पहुंच सीमित करता है। एशिया सोसाइटी के विश्लेषक लिज़ी ली इसे इस मॉडल के मुख्य विरोधाभासों में से एक कहते हैं।

बीजिंग में, अमोडेई की पहल को तकनीकी रोकथाम के प्रयास के रूप में देखा गया। चीनी विदेश मंत्रालय के एक प्रतिनिधि ने कहा कि 'धमकाना, टकराव और दुर्भावनापूर्ण प्रतिस्पर्धा' एआई के वैश्विक प्रबंधन में बाधा डालते हैं, और ग्लोबल टाइम्स नामक सरकारी प्रकाशन ने Anthropic के प्रमुख के प्रस्तावों को एआई उद्योग के लिए 'शीत युद्ध की पाठ्यपुस्तक' करार दिया।

अविश्वास आपसी आरोपों से बढ़ता है। अमेरिकी खुफिया एजेंसियों ने हाल ही में एक निबंध प्रकाशित किया जिसमें चीनी डेवलपर्स पर अमेरिकी मॉडलों का लाभ उठाने का आरोप लगाया गया, जबकि बीजिंग ने इन आरोपों को खारिज कर दिया, यह दावा करते हुए कि वाशिंगटन एआई बाजार पर एकाधिकार चाहता है। इसके अलावा, चीनी अधिकारी स्वयं विदेशी प्रणालियों से खतरों के बारे में चेतावनी देते हैं: चीनी राष्ट्रीय सुरक्षा मंत्रालय के प्रमुख चेन यीसिन ने कहा कि शत्रुतापूर्ण शक्तियों के हाथों में एआई देश की राजनीतिक और सूचना सुरक्षा को खतरे में डाल सकता है।

वाशिंगटन ब्रेक लगाने में जल्दबाजी नहीं कर रहा है

इस मामले में एआई कंपनियों के नेताओं का रुख अमेरिकी प्रशासन की नीति के सीधे विपरीत है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने 13 सितंबर को एआई के विकास में पर्याप्त धीमापन की आवश्यकता के विचार को खारिज कर दिया। उन्होंने इस बात पर जोर दिया कि अमेरिका चीन से आगे है और इस बढ़त को बनाए रखना चाहिए, यह तर्क देते हुए कि 'जो एआई जीतता है, वही जीतता है'। हालांकि ट्रम्प ने कुछ प्रतिबंधों की संभावना को स्वीकार किया, उन्होंने एआई के संबंध में मौजूदा चिंताओं के एक बड़े हिस्से को बढ़ा-चढ़ाकर बताया।

इस प्रकार, अमेरिका के भीतर दो विपरीत तर्क विकसित हुए हैं। अमोडेई इस दुविधा के अस्तित्व को स्वीकार करते हैं, सीबीएस को दिए एक साक्षात्कार में टिप्पणी करते हुए कि अमेरिकी और चीनी कंपनियों के बीच प्रतिस्पर्धा 'गति सीमा' स्थापित करने के लिए सबसे जटिल समस्या है, और वह इसकी संभावना के बारे में निश्चित नहीं हैं।

क्या मिलीभगत की कोई जगह है

फिलहाल, यह कहने का कोई आधार नहीं है कि प्रमुख एआई कंपनियों के नेताओं ने गुप्त समझौता किया है। हालांकि, ऐसे तथ्य मौजूद हैं जो समन्वय के प्रश्न को उचित ठहराते हैं: कई प्रतिस्पर्धी फर्मों ने पहले एक सामान्य सुरक्षा निकाय पर चर्चा की, फिर उनके नेताओं ने लगभग एक साथ धीमा करने के विचार का समर्थन किया, और खुद प्रस्तावों में न केवल आंतरिक सुरक्षा उपाय शामिल हैं, बल्कि पूरे उद्योग के लिए सामूहिक नियम भी शामिल हैं।

घटनाओं के विकास के कई संभावित परिदृश्य हैं। पहला - वास्तविक समन्वय है, जहां प्रमुख डेवलपर्स एआई विकास की गति और सुरक्षा की सामान्य आवश्यकताओं के बारे में अनौपचारिक या आधिकारिक समझौते के करीब आ सकते हैं। Anthropic, OpenAI और Google द्वारा एक सामान्य उद्योग निकाय बनाने के लिए प्रारंभिक वार्ता प्रतिस्पर्धियों के बीच सार्वजनिक आह्वान से पहले ही संपर्क शुरू होने का संकेत देती है। यदि यह प्रक्रिया जारी रहती है, तो वर्तमान बयान नए उद्योग मानदंडों के निर्माण की दिशा में पहला कदम हो सकते हैं।

दूसरा विकल्प - मजबूर शांति है। कंपनियों ने यह निष्कर्ष निकाला हो सकता है कि स्वायत्त सिस्टम मौजूदा नियंत्रण विधियों की तुलना में तेजी से विकसित हो रहे हैं, और इसलिए वे अस्थायी रूप से सामान्य सीमाओं में रुचि रखते हैं। इस मामले में, यह प्रतिद्वंद्विता को समाप्त करने के बारे में नहीं है, बल्कि न्यूनतम सुरक्षा स्तर पर सहमत होने के बारे में है, जिसके बाद दौड़ जारी रहेगी।

तीसरा परिदृश्य - नियमों को परिभाषित करने के लिए संघर्ष है। धीमा करने के आह्वान का उपयोग यह प्रभावित करने के तरीके के रूप में किया जा सकता है कि भविष्य में कौन से प्रतिबंध लागू किए जाएंगे। यदि प्रमुख डेवलपर्स को मानकों के निर्माण में निर्णायक भूमिका मिलती है, तो वे अपने प्रतिस्पर्धियों की कार्य स्थितियों को भी प्रभावित कर सकते हैं। इस मामले में, एआई सुरक्षा पर चर्चा भविष्य के बाजार पर नियंत्रण के लिए लड़ाई भी बन जाएगी।

ये संस्करण एक दूसरे को बाहर नहीं करते हैं। कंपनियां एक ही समय में एआई के त्वरण से डर सकती हैं, बुनियादी सुरक्षा नियमों पर सहमत हो सकती हैं और इन नियमों के प्रारूपण पर प्रभाव डालने की मांग कर सकती हैं। जब तक इनमें से किसी भी परिदृश्य को साबित नहीं किया जा सकता है, लेकिन यह स्पष्ट है कि प्रमुख डेवलपर्स पहली बार व्यक्तिगत खतरों की चेतावनियों से एआई के विकास के सामूहिक नियमों पर चर्चा की ओर इतनी स्पष्ट रूप से बढ़ रहे हैं।