Anthropic के मुख्य कार्यकारी अधिकारी, डारियो अमोडेई ने कृत्रिम बुद्धिमत्ता (एआई) विकसित करने वाली कंपनियों से एआई के दुरुपयोग को लेकर बढ़ती चिंताओं के मद्देनजर मॉडलों की क्षमताओं को बढ़ाने की गति धीमी करने का आह्वान किया। उन्होंने विकास को विनियमित करने और संबंधित जोखिमों के प्रबंधन के लिए अधिक समय प्रदान करने के उद्देश्य से एक तीन-चरणीय संरचना प्रस्तुत की।
अमोडेई ने शनिवार को X पर प्रकाशित एक विस्तृत निबंध में लिखा: 'हमें एआई मॉडल की क्षमताओं में सुधार की गति धीमी करनी चाहिए। प्रगति फिर भी तेज लगेगी, और हमें मिले समय का बुद्धिमानी से उपयोग करना चाहिए।'
अमोडेई की तीन-चरणीय योजना में सुरक्षा प्रथाओं की जांच के लिए कर्मचारियों की पहुंच के समान पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं को लागू करना, एआई के प्रमुख फर्मों के बीच सुरक्षा मानकों को स्थापित करने और अनियंत्रित एआई विकास को सीमित करने के लिए समन्वय करना, और एआई जोखिमों के प्रबंधन के लिए अंतर्राष्ट्रीय सहयोग शामिल है।
एलन मस्क, xAI के प्रमुख, और सैम अल्टमैन, ओपनएआई के सीईओ ने अपने X संदेशों में अमोडेई के रुख पर सहमति व्यक्त की। अल्टमैन ने कहा: 'कर्मचारी जैसी पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं की उपलब्धता के प्रति प्रतिबद्धता एक शानदार विचार है, और हम ऐसा ही करेंगे,' यह जोड़ते हुए कि अतिरिक्त जानकारी जल्द ही प्रदान की जाएगी।
अमोडेई ने अपना निबंध तब जारी किया जब सैन फ्रांसिस्को स्थित Anthropic ने गुरुवार को साइबर सुरक्षा खतरों पर एक रिपोर्ट जारी की थी। इसमें विस्तार से बताया गया था कि विभिन्न संस्थाओं ने कंपनी के Claude AI मॉडल का उपयोग हथियार विकसित करने, साइबर संचालन, निगरानी और धोखाधड़ी जैसी गतिविधियों के लिए कैसे किया।
अमोडेई ने एआई की स्व-सुधार करने की बढ़ती क्षमता पर प्रकाश डाला, इस बात पर जोर दिया कि वह इस बात की पुरानी चिंताओं को उजागर करते हैं कि यह मानव नियंत्रण से आगे निकल सकता है, साथ ही ओपनएआई और हगिंग फेस से जुड़ी हालिया घटना को प्रगति को धीमा करने के कारणों में से एक बताया।
इस सप्ताह एआई से संभावित नुकसान की चिंताएं बढ़ गईं, जब Anthropic के शोधकर्ता जेकब कॉक्सन ने इस्तीफा दे दिया, यह कहते हुए कि 'एआई बनाने वाले लोग ईमानदारी से मानते हैं कि यह दशक के अंत तक हम सभी को मार सकता है।'
ओपनएआई के कुछ नेताओं ने अनुमान लगाया कि प्रमुख प्रयोगशालाओं को सुरक्षा उपायों में विश्वास बढ़ाने के लिए यदि आवश्यक हो तो स्वेच्छा से काम धीमा करने के लिए तैयार रहना चाहिए। हालांकि Anthropic खुद को अधिक सुरक्षा-जागरूक अग्रणी प्रयोगशाला के रूप में प्रस्तुत करती है, लेकिन यह इन समस्याओं से अछूता नहीं है। पिछले सप्ताह कंपनी ने जुलाई की घटना के बाद एक अन्य बाहरी सिस्टम हैकिंग का खुलासा किया, जब उनके कुछ Claude मॉडल साइबर सुरक्षा परीक्षण के दौरान तीन कंपनियों की प्रणालियों को हैक कर चुके थे।
अमोडेई ने चेतावनी दी: 'एआई क्षमताओं के विकास की बढ़ती गति को देखते हुए, मुझे चिंता है कि 6-12 महीनों में ऐसा झुंड पूरे इंटरनेट पर कब्जा कर सकता है, जिससे संभावित रूप से सैकड़ों अरब डॉलर का नुकसान हो सकता है।'
उन्होंने स्पष्ट किया कि वह मॉडल प्रशिक्षण या तकनीकी प्रगति की पूर्ण समाप्ति का आह्वान नहीं कर रहे हैं, बल्कि इस बात पर जोर दे रहे हैं कि कंपनियों को अपने मॉडलों को संरेखित करने और सुरक्षित करने के लिए पर्याप्त समय देना चाहिए, साथ ही इन कदमों की पुष्टि तीसरे पक्ष के मूल्यांकनकर्ताओं द्वारा भी की जानी चाहिए।