एन्थ्रोपिक में एलाइनमेंट टेस्ट लीड के रूप में काम करने वाले इवान ह्यूबिंगर ने अनुमान लगाया कि दस वर्षों के भीतर आर्टिफिशियल इंटेलिजेंस द्वारा मानवता के विलुप्त होने की संभावना 10% से अधिक है। यह चेतावनी उसी कंपनी के शोधकर्ता जैकब कॉक्सन द्वारा इस्तीफा देने और तेजी से विकसित हो रहे सिस्टम विकास प्रयोगशालाओं के बीच प्रतिस्पर्धा की आलोचना करने के तुरंत बाद जारी की गई थी।
यह घटना प्रौद्योगिकी निर्माण में सीधे शामिल वैज्ञानिकों के बीच बढ़ती चिंता को दर्शाती है: उन्नत प्रणालियों के मानवीय नियंत्रण से बाहर निकलने का खतरा। एन्थ्रोपिक और ओपनएआई दोनों ही अधिक सक्षम मॉडल विकसित करने में आगे बढ़ रहे हैं, साथ ही वे बड़ी मात्रा में निवेश आकर्षित कर रहे हैं और संभावित सार्वजनिक पेशकशों के लिए तैयारी कर रहे हैं।
जैसा कि ओल्हार डिजिटल द्वारा रिपोर्ट किया गया है, कॉक्सन ने मंगलवार को एन्थ्रोपिक से अपना इस्तीफा दिया। एक्स नेटवर्क पर एक पोस्ट में, उन्होंने व्यक्त किया कि एन्थ्रोपिक और ओपनएआई दोनों ही कृत्रिम बुद्धिमत्ता की प्रगति से जुड़े अंतर्निहित जोखिमों को जिम्मेदारी से संबोधित नहीं कर रहे हैं।
शोधकर्ता ने अपनी राय व्यक्त की कि 'वे स्वयं को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर सीधे दौड़ रहे हैं और हमारे जीवन दांव पर लगा रहे हैं।' उनका तात्पर्य उन प्रणालियों की संभावना से था जो मानवीय हस्तक्षेप के बिना अपनी कार्यक्षमता को बढ़ा सकती हैं। हालांकि स्व-सुधार पुनरावर्ती अभी तक वास्तविकता नहीं है, एआई प्रयोगशालाएं इस मील के पत्थर तक पहुंचने के लिए प्रयास कर रही हैं।
कॉक्सन ने यह भी कहा कि इन एआई सिस्टमों के निर्माण में शामिल व्यक्तियों का दृढ़ विश्वास है कि यह तकनीक इस दशक के अंत से पहले पूरी मानवता को समाप्त करने की क्षमता रखती है।
इस बयान पर एन्थ्रोपिक के एलाइनमेंट टेस्ट लीड इवान ह्यूबिंगर ने प्रतिक्रिया दी। उन्होंने कॉक्सन से सहमति जताई और स्वीकार किया कि कंपनी के पास भविष्य की सुपरइंटेलिजेंस की संरेखण समस्या को हल करने के लिए अभी तक कोई परिभाषित योजना नहीं है। ह्यूबिंगर ने जोर देकर कहा: 'जैकोब यहाँ सही हैं - हम वास्तव में ईमानदारी से मानते हैं कि एआई सभी मनुष्यों को मार सकता है! मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में यह 10% से अधिक है।'
एन्थ्रोपिक के एलाइनमेंट टेस्ट लीड ने आगे कहा कि उनका मानना है कि एन्थ्रोपिक अपनी क्षमता के अनुसार कर रही है, लेकिन संगठन इस मुद्दे को हल करने के लिए 'स्पष्ट रूप से रास्ते पर नहीं' है।
इस बहस में चर्चा किए गए जोखिमों में, एन्थ्रोपिक ने जून में ही संकेत दिया था कि पूर्ण पुनरावर्ती स्व-सुधार से मनुष्यों के एआई सिस्टमों पर नियंत्रण खोने का जोखिम बढ़ सकता है। कंपनी ने इस बात पर जोर दिया कि यदि सिस्टम अपने उत्तराधिकारी बना सकते हैं, तो उनके व्यवहार की रक्षा करना, निगरानी करना और निर्देशित करना और भी महत्वपूर्ण हो जाता है।
कॉक्सन ने जुलाई में हुई एक घटना का उदाहरण दिया, जहां ओपनएआई का एक मॉडल कथित तौर पर नियंत्रण से बाहर हो गया और हगिंग फेस प्लेटफॉर्म का उल्लंघन किया। उनके लिए, इस तरह की घटनाएं 'चेतावनी संकेत' के रूप में कार्य करती हैं और संयुक्त राज्य अमेरिका में स्थित प्रयोगशालाओं के बीच समझौतों को अधिक विश्वसनीय बना सकती हैं।
हालांकि, कॉक्सन ने इस बात पर संदेह व्यक्त किया कि क्या क्षेत्र एआई के विकास के लिए वैश्विक विवाद की दिशा में आगे बढ़ रहा है। उनके अनुसार, इस परिदृश्य को रोकना महंगा कदम उठाना पड़ सकता है।
'मुझे नहीं लगता कि हम एक वैश्विक दौड़ को रोकने के लिए सही रास्ते पर हैं, जिसके लिए मॉडलों की क्षमताओं को अस्थायी रूप से बढ़ाने पर रोक जैसे महंगे उपायों की आवश्यकता हो सकती है,' उन्होंने कहा।
चल रही बहस दर्शाती है कि तेजी से सक्षम प्रणालियों के नियंत्रण से संबंधित चिंताएं उन पेशेवरों से आती हैं जो इन प्रौद्योगिकियों के विकास में सीधे काम करते हैं।