पहले कृत्रिम बुद्धिमत्ता (एआई) के आसपास की चर्चाएं नौकरी छूटने, दुष्प्रचार के प्रसार और साइबर हमलों जैसे खतरों पर केंद्रित थीं। हालांकि, OpenAI सुरक्षा टीम के एक शोधकर्ता ने कहीं अधिक गंभीर चेतावनी दी है। उनका मानना है कि यदि एआई विकसित करने वाली कंपनियों के बीच हो रही दौड़ को नियंत्रित नहीं किया जाता है और सरकारों द्वारा नियम स्थापित नहीं किए जाते हैं, तो आने वाले वर्ष मनुष्यों के लिए बेहद खतरनाक हो सकते हैं।
OpenAI सुरक्षा निगरानी टीम के सदस्य मार्कस विलियम्स ने सोशल मीडिया पर कहा कि यदि एआई पर प्रभावी नियंत्रण लागू नहीं किया जाता है या प्रमुख एआई कंपनियों की विकास दर सामूहिक रूप से धीमी नहीं की जाती है, तो आने वाले वर्षों में मानव जाति के विलुप्त होने का उच्च जोखिम है।
जब उनसे इस खतरे को प्रतिशत में व्यक्त करने के लिए कहा गया, तो उन्होंने जवाब दिया कि अगले तीन वर्षों में यह जोखिम 70% है, बशर्ते विनियमन या विकास की गति धीमी न हो। उन्होंने यह भी जोर दिया कि विकास की गति को धीमा करना और विनियमन लागू करना अभी भी संभव है।
यह समझना महत्वपूर्ण है कि 70% का आंकड़ा वैज्ञानिक रूप से सिद्ध भविष्यवाणी या निश्चित समय सीमा नहीं है। यह विलियम्स का अपना मूल्यांकन है, जिसे वह एक विशिष्ट शर्त के साथ प्रस्तुत करते हैं। उनका बयान यह नहीं कहता है कि दुनिया तीन साल में समाप्त हो जाएगी; बल्कि, उनका मानना है कि यदि एआई का विकास आवश्यक सुरक्षा उपायों को अपनाए बिना वर्तमान तरीकों से जारी रहता है, तो खतरा तेजी से बढ़ सकता है।
मार्कस विलियम्स OpenAI सुरक्षा निगरानी टीम में काम करते हैं। उनकी प्रोफ़ाइल के अनुसार, वह एआई सुरक्षा के मुद्दों पर काम करते हैं, जिसमें एआई मॉडल को धोखा देने, गलत लक्ष्यों को प्राप्त करने और ऐसे व्यवहार की निगरानी से संबंधित अनुसंधान में भाग लेना शामिल है। उनका नाम OpenAI की आधिकारिक वेबसाइट पर प्रकाशित एक शोध पत्र में भी लेखक के रूप में उल्लिखित है। इस शोध में एआई एजेंटों के व्यवहार की निगरानी पर चर्चा की गई जो उन पर लगाए गए प्रतिबंधों को दरकिनार करने का प्रयास कर सकते हैं।
इस प्रकार, विलियम्स का काम एआई से गुणवत्तापूर्ण उत्तर प्राप्त करने से कम संबंधित है, और अधिक इस बात से संबंधित है कि क्या होगा जब एआई प्रणाली अधिक क्षमता और स्वतंत्रता प्राप्त करेगी, और उसके अवांछित व्यवहार का पता कैसे लगाया जा सकता है। यही कारण है कि उनका हालिया बयान काफी ध्यान आकर्षित कर रहा है।
आधुनिक एआई अभी तक पूरी तरह से स्वतंत्र रूप से दुनिया का प्रबंधन नहीं करता है, जैसा कि मनुष्य करते हैं। हालांकि, एआई मॉडल अधिक सक्षम होते जा रहे हैं। वे अब केवल सवालों का जवाब नहीं देते हैं, बल्कि कोड लिख सकते हैं, इंटरनेट पर जानकारी खोज सकते हैं, अन्य सॉफ्टवेयर का उपयोग कर सकते हैं और कई कार्यों को करने वाले स्वायत्त एजेंटों के रूप में कार्य कर सकते हैं।
OpenAI स्वयं अपने शोध में बताता है कि यह निर्धारित करने के लिए एक आंतरिक कोडिंग एजेंट की निगरानी की जा रही है कि एआई उस व्यवहार को कैसे प्रदर्शित करता है जिसमें वह अपने लिए निर्धारित सीमाओं को पार करने का प्रयास करता है। शोध में ऐसे उदाहरणों का अध्ययन किया गया जहां एजेंट प्रतिबंधों को दरकिनार करने का प्रयास कर सकता था। यह एआई सुरक्षा विशेषज्ञों के बीच सबसे अधिक चिंता का विषय है। यदि भविष्य में कोई एआई प्रणाली मनुष्यों की तुलना में कई गुना अधिक सक्षम हो जाती है और इंटरनेट, कंप्यूटर सिस्टम, धन या अपने लक्ष्यों को प्राप्त करने के लिए अन्य संसाधनों तक व्यापक पहुंच प्राप्त करती है, तो उस पर नियंत्रण रखना मुश्किल हो सकता है। एआई सुरक्षा शब्दावली में इसे नियंत्रण और संरेखण की समस्या कहा जाता है। सरल शब्दों में, सवाल उठता है: यदि एआई हमसे अधिक शक्तिशाली और सक्षम हो जाता है, तो क्या वह वही करेगा जो लोग चाहते हैं?
विलियम्स का 70% का मूल्यांकन आज तक एआई से संबंधित सबसे भयावह भविष्यवाणियों में से एक है। फिर भी, इसे अन्य विशेषज्ञों के आकलन के संदर्भ में देखना महत्वपूर्ण है। Anthropic के एआई सुरक्षा शोधकर्ता इवान हुबिंगर ने भी इस सप्ताह कहा कि वह अगले दशक में एआई के कारण मानव जाति के विलुप्त होने की संभावना 10% से अधिक मानते हैं। इसके अलावा, एआई के क्षेत्र में प्रसिद्ध वैज्ञानिक जेफ्री हंटन पहले भी एआई के कारण मानव अस्तित्व के लिए गंभीर खतरे के बारे में बात कर चुके हैं।
इसका मतलब यह नहीं है कि सभी एआई विशेषज्ञ 70% के मूल्यांकन से सहमत हैं। इसके विपरीत, विशेषज्ञों की राय में काफी भिन्नता है। इस चर्चा में सबसे महत्वपूर्ण बात यह है कि वर्तमान में एआई के कारण मानव जाति के विलुप्त होने की कोई पुष्टि की गई संभावना नहीं है। ये विभिन्न जोखिम मूल्यांकन विभिन्न विशेषज्ञों की धारणाएं हैं, जो इस बात पर निर्भर करती हैं कि वे एआई की भविष्य की क्षमता, इसकी विकास दर और मानव सुरक्षा प्रणालियों को कैसे देखते हैं।
