विशेषज्ञ सुपरइंटेलिजेंट आर्टिफिशियल इंटेलिजेंस से जुड़े जोखिमों के बारे में चेतावनी देते हैं

आर्टिफिशियल इंटेलिजेंस के शोधकर्ता इस बात को लेकर गंभीर चिंता व्यक्त कर रहे हैं कि इस तकनीक के उन्नत रूप मानवता के लिए खतरा पैदा कर सकते हैं। इन चिंताजनक बयानों के बावजूद, विलुप्त होने के परिदृश्य की संभावना पर बहस जारी है, और सरकारों द्वारा विनियमन की गति पर्याप्त है या नहीं, यह सवाल उठता है।

विशेषज्ञ लंबे समय से 'सुपरइंटेलिजेंस' वाली प्रणालियों से संभावित खतरे को गंभीर बताते आ रहे हैं। 2023 में, अमेरिका की प्रमुख प्रयोगशालाओं के निदेशकों सहित सैकड़ों वैज्ञानिकों और एआई उद्योग के दिग्गजों ने 'एआई से विलुप्त होने के जोखिम पर घोषणा' पर हस्ताक्षर किए, जिसमें इस समस्या को महामारी या परमाणु युद्ध के समान मानने का आह्वान किया गया।

घटनाओं के विकास का सबसे बुरा परिदृश्य क्या है?

कैलिफ़ोर्निया विश्वविद्यालय, बर्कले के कंप्यूटर विज्ञान के प्रोफेसर स्टीवर्ट রাসেল के अनुसार, यदि भविष्य का एआई नियंत्रण से बाहर हो जाता है और यह तय करता है कि मनुष्य उसके लक्ष्यों को प्राप्त करने में बाधा डाल रहे हैं, तो यह 'नए रोगजनकों के संश्लेषण और प्रसार' के लिए रोबोट का उपयोग कर सकता है। इसके अलावा, जैसा कि রাসেল ने एएफपी को बताया, यह 'लोगों को परमाणु युद्ध शुरू करने के लिए मना सकता है, जिसमें प्रारंभिक चेतावनी प्रणालियों को हैक करना भी शामिल है'।

रासेल ने इस बात पर जोर दिया कि ऐसे अस्तित्व संबंधी डर वर्तमान एआई प्रणालियों से संबंधित नहीं हैं। हालांकि, जैसे-जैसे तकनीक बेहतर होती जाएगी, यह हमारे लिए अगम्य घातक कार्य कर सकती है, उदाहरण के लिए, वायुमंडल से ऑक्सीजन हटाकर। उन्होंने इसकी तुलना इस बात से की कि शाइम्पांजी शायद इस प्रश्न का संतोषजनक उत्तर नहीं दे पाएंगे कि मनुष्य उन्हें कैसे नष्ट कर सकते हैं।

इस बीच, রাসেল ने जोड़ा कि अगले एक या दो वर्षों में जोखिम अधिक है क्योंकि इसका दुरुपयोग मनुष्यों द्वारा किया जा सकता है, उदाहरण के लिए, एआई का उपयोग करके आतंकवादी हमले के परिणामस्वरूप।

27 वर्षीय शोधकर्ता जेकब कॉक्सन ने अमेरिकी स्टार्टअप एंथ्रोपिक से इस्तीफा दे दिया, यह कहते हुए कि दांव स्पष्ट हैं, लेकिन कंपनी 'लक्ष्य तक पहले पहुंचने की दौड़ में फंसी हुई है'। उन्होंने उल्लेख किया कि एंथ्रोपिक मानता है कि कोई अन्य जिम्मेदारी से कार्य नहीं करेगा, इसलिए उन्हें खुद ऐसा करना चाहिए। इस साल, एंथ्रोपिक ने अपने चार्टर से यह वादा वापस ले लिया कि यदि वे जोखिमों को नियंत्रित नहीं कर सकते हैं तो वे मॉडल के विकास को निलंबित करेंगे, यह तर्क देते हुए कि एकतरफा धीमापन कम सतर्क प्रतिस्पर्धियों के प्रभुत्व को जन्म देगा, जिससे उद्योग समग्र रूप से कम सुरक्षित हो जाएगा।

ओपनएआई में पहले काम करने वाले कॉक्सन ने कहा कि एआई निर्माता ईमानदारी से मानते हैं कि यह तकनीक दशक के अंत तक सभी को नष्ट कर सकती है, और दोनों कंपनियों पर आत्म-सुधार करने में सक्षम मॉडल बनाने की चाहत में 'हमारे जीवन के साथ जुआ खेलने' का आरोप लगाया।

मानव पर्यवेक्षण के बिना काम करने वाली ओपनएआई की तकनीक द्वारा हगिंग फेस, एआई मॉडल रिपॉजिटरी को हैक करने के बाद अनियंत्रित एआई के बारे में चिंताएं बढ़ गईं। एंथ्रोपिक के सुरक्षा विभाग के प्रमुख, एवन हैबिंगर ने भी एक्स पर जोखिम का आकलन करते हुए अगले दशक में 10 प्रतिशत से अधिक का मत व्यक्त किया।

इस विषय के आसपास कितना शोर है?

UNSW कैनबरा के कम्प्यूटेशनल साइंस के प्रोफेसर हुसैन अब्बास ने टिप्पणी की कि निराशावादी प्रतिशत पूर्वानुमान 'बिल्कुल अवैज्ञानिक' हैं, और स्थिति प्रबंधनीय और नियंत्रण में बनी हुई है। फिर भी, उन्होंने सरकारों से एआई विनियमन के मामलों में निष्क्रिय न रहने का आग्रह किया, एआई के विकास में तेजी आने पर 'लचीले' दृष्टिकोण पर जोर दिया।

अपेक्षित है कि एंथ्रोपिक और ओपनएआई जल्द ही स्टॉक एक्सचेंज में सूचीबद्ध होंगे, और कुछ संदेहवादी मानते हैं कि डरावनी चेतावनियाँ एआई को बड़े निवेश के लिए शक्ति और आकर्षण प्रदान करती हैं। अन्य का मानना है कि विलुप्त होने के जोखिम पर ध्यान केंद्रित करना एआई से उत्पन्न अधिक तात्कालिक समस्याओं से ध्यान भटकाता है, जैसे नौकरी छूटना या मशीनों द्वारा अल्पसंख्यकों का भेदभाव।

जुलाई में, प्रौद्योगिकी कंपनियों के हजारों कर्मचारियों, जिसमें एंथ्रोपिक के सीईओ भी शामिल थे, ने वाशिंगटन से समन्वित एआई सिस्टम के विकास को धीमा करने का समर्थन करने का आह्वान किया। ओपनएआई ने अगस्त में अपने नवीनतम मॉडलों के प्रशिक्षण को दो सप्ताह के लिए निलंबित कर दिया, जिसके बाद इसे अधिक सख्त नियंत्रण के तहत फिर से शुरू किया गया।

विनियमन के लिए क्या आवश्यक होगा?

अब तक, संयुक्त राज्य अमेरिका ने नवाचार को दबाने वाले वैश्विक विनियमन का विरोध किया है। हालांकि, सबसे उन्नत मॉडलों को हैक करने की अभूतपूर्व क्षमता ने वाशिंगटन को सोचने पर मजबूर कर दिया है, क्योंकि एंथ्रोपिक और ओपनएआई के हालिया रिलीज राष्ट्रीय सुरक्षा चिंताओं के कारण स्थगित कर दिए गए थे। यहां तक कि इस मामले में भी, राष्ट्रपति डोनाल्ड ट्रम्प ने कहा था कि 'हम उन्हें सीमित नहीं करना चाहते हैं ताकि हम अचानक चीन के बाद दूसरे न बन जाएं'।

रासेल ने अनुमान लगाया कि सरकारों को कार्रवाई शुरू करने के लिए चेरनोबिल स्तर की बड़ी आपदा की आवश्यकता हो सकती है, और उन्होंने उनसे एआई के लिए विमानन, चिकित्सा या जल आपूर्ति में मौजूद के समान लाइसेंसिंग व्यवस्था लागू करने का आग्रह किया। उन्होंने यह भी जोड़ा कि संभव है कि किसी बिंदु पर सरकारें याद करेंगी कि उनके मतदाता मरना पसंद नहीं करते हैं।