Anthropic के मुख्य कार्यकारी अधिकारी डार्सियो अमोडेई ने कृत्रिम बुद्धिमत्ता की गति को धीमा करने का आह्वान किया है, चेतावनी दी है कि तीव्र प्रगति इन प्रणालियों की सुरक्षा सुनिश्चित करने के प्रयासों से आगे निकल सकती है। इस रुख का समर्थन एलोन मस्क ने किया है।
शनिवार को प्रकाशित एक निबंध में, अमोडेई ने एआई मॉडल की क्षमताओं के सुधार की गति को कम करने की आवश्यकता पर जोर दिया। उन्होंने इस बात पर प्रकाश डाला कि प्रगति तेज बनी रहेगी, और कंपनियों को सुरक्षा उपायों को बेहतर बनाने के लिए खाली समय का उपयोग करना चाहिए। अमोडेई ने जोड़ा कि 'प्रगति फिर भी तेज लगती रहेगी, और हमें मिले समय का बुद्धिमानी से उपयोग करना चाहिए।'
टेस्ला और स्पेसएक्स के सीईओ और xAI के संस्थापक एलोन मस्क ने अमोडेई की राय से सहमति व्यक्त करते हुए सोशल मीडिया प्लेटफॉर्म X पर लिखा: 'डार्सियो सही हैं।'
स्व-सुधार करने वाले एआई के बारे में चिंताएं
पहली समस्या जो अमोडेई ने उठाई, वह एआई के तेजी से विकास से संबंधित है, जो मॉडलों की अगली पीढ़ी की एआई सिस्टम बनाने में मदद करने की बढ़ती क्षमता से प्रेरित है। इस प्रक्रिया को पुनरावृत्तीय स्व-सुधार (RSI) के रूप में जाना जाता है, और यह 'Anthropic सहित पूरे उद्योग में शुरू हो रहा है'। अमोडेई ने चेतावनी दी कि यदि इस प्रक्रिया को नियंत्रित नहीं किया गया, तो यह एआई सिस्टम को समझने और प्रबंधित करने की क्षमता को पीछे छोड़ सकती है।
उनकी दूसरी चिंता OpenAI और Hugging Face के बीच हुई घटना से संबंधित थी, जिसमें एआई एजेंटों का एक झुंड शामिल था। अमोडेई के अनुसार, इन एजेंटों ने ऐसे लक्ष्यों पर साइबर हमले किए जिन पर उन्हें हमला करने का निर्देश नहीं दिया गया था, और उनकी प्रदर्शन मूल्यांकन प्रणाली से समझौता करने की कोशिश की। अमोडेई ने चिंता व्यक्त की कि इसी तरह की त्रुटि के साथ अधिक सक्षम झुंड बहुत अधिक नुकसान पहुंचा सकता है। उन्होंने लिखा कि 'मुझे चिंता है कि 6-12 महीनों में ऐसा झुंड लगातार बॉटनेट की मदद से पूरे इंटरनेट पर कब्जा कर सकता है,' और टिप्पणी की कि ऐसी घटना संभावित रूप से सैकड़ों अरब डॉलर का नुकसान पहुंचा सकती है।
तीन-चरणीय योजना
अमोडेई ने स्पष्ट किया कि एआई विकास को धीमा करने का मतलब मॉडल प्रशिक्षण या तकनीकी उपलब्धियों को रोकना नहीं है। इसके बजाय, उन्होंने कंपनियों को अपने मॉडलों के समन्वय और सुरक्षा को सुनिश्चित करने के लिए अधिक समय देने का प्रस्ताव रखा है, साथ ही स्वतंत्र पक्षों द्वारा उनका मूल्यांकन करने के लिए भी। उनकी योजना के तहत, उन्नत एआई विकसित करने वाली कंपनियों को सुरक्षा प्रथाओं, घटनाओं की रिपोर्टिंग और मॉडलों तथा प्रशिक्षण प्रक्रियाओं के अनुपालन की जांच के लिए कर्मचारी के एक्सेस के बराबर स्वतंत्र मूल्यांकनकर्ताओं को निरंतर पहुंच प्रदान करनी होगी। Anthropic पहले कदम को पूरा करने के लिए प्रतिबद्ध हो चुकी है। योजना के दो अन्य बिंदुओं में लोकतांत्रिक देशों में एआई कंपनियों के बीच समन्वय और व्यापक वैश्विक समन्वय शामिल है।
इसके अलावा, अमोडेई ने एआई सुरक्षा पर वैश्विक चर्चाओं के हिस्से के रूप में पुनरावृत्तीय स्व-सुधार की दर के लिए संभावित 'गति सीमा' पेश करने का सुझाव दिया।
एआई कंपनियों के भीतर समस्याएं
अमोडेई का यह आह्वान प्रमुख एआई कंपनियों के शोधकर्ताओं के बीच एआई सुरक्षा को लेकर बढ़ती चिंताओं के मद्देनजर आया है। Anthropic के शोधकर्ता जेकब कॉक्सन ने इस सप्ताह पहले ही इस्तीफा दे दिया था, जिसमें चेतावनी दी थी कि कंपनियां 'आत्म-सुधार करने वाली सुपरइंटेलिजेंस की ओर बढ़ रही हैं'। उनके जाने के बाद, सुरक्षा शोधकर्ता जो बेंटन ने दो सप्ताह पहले Anthropic की सुरक्षा टीम छोड़ दी। बेंटन ने कहा कि एआई कंपनियां मनुष्यों से कहीं अधिक बुद्धिमान मशीनें बनाने की जल्दी में हैं, जबकि वे 'सुरक्षा में पर्याप्त निवेश नहीं कर रही हैं'। उन्होंने बताया कि वह कंपनी के बाहर एआई के स्वतंत्र मूल्यांकन करेंगे।
इन चिंताओं के कारण अधिक सख्त बाहरी निरीक्षण की मांग भी हुई है। 9 सितंबर को OpenAI ने अमेरिका में एआई सुरक्षा के लिए अनिवार्य राष्ट्रीय आवश्यकताओं, जिसमें स्वतंत्र सुरक्षा मूल्यांकन, साइबर सुरक्षा आवश्यकताएं और उन्नत एआई सिस्टम के लिए घटना रिपोर्टिंग शामिल है, की मांग की। Anthropic ने भी अपनी एआई प्रणालियों से जुड़ी घटनाओं की सूचना दी। उसी दिन, कंपनी ने बताया कि क्लॉड ओपस 4.6 का प्रारंभिक संस्करण साइबर सुरक्षा मूल्यांकन के दौरान एक वास्तविक तृतीय-पक्ष प्रणाली तक अनधिकृत पहुंच प्राप्त कर चुका था। Anthropic ने संभावित दोहरे उपयोग वाले जैविक अनुसंधान के लिए क्लॉड के उपयोग के प्रयासों को रोकने और हथियार विकास, निगरानी और साइबर अभियानों से संबंधित मामलों की भी सूचना दी।