इंटरनेट पर कुछ समय से यह डर फैल रहा है कि आर्टिफिशियल इंटेलिजेंस (एआई) मानवता का अंत कर सकता है, जो क्षेत्र की बड़ी कंपनियों के पूर्व कर्मचारियों के विश्लेषणों और टिप्पणियों के कारण नई प्रासंगिकता प्राप्त कर रहा है। इसके अलावा, सैम अल्टमैन (ओपनएआई) और डारियो अमोडेई (एंथ्रोपिक) जैसे नेताओं ने इस तकनीक के विकास में सुरक्षा के महत्व को दोहराया है।
एंथ्रोपिक में एलाइनमेंट टेस्टिंग लीडर, इवान ह्यूबिंगर ने अनुमान लगाया कि दशक के अंत तक एआई के 'सभी मनुष्यों को मारने' की 10% से अधिक संभावना है। यह बयान उसी कंपनी के शोधकर्ता जेकब कॉक्सन द्वारा इस्तीफा देने और तेजी से विकसित हो रही प्रयोगशालाओं के बीच प्रतिस्पर्धा की आलोचना करने के तुरंत बाद आया।
एक्स प्लेटफॉर्म पर एक पोस्ट में, कॉक्सन ने व्यक्त किया कि एंथ्रोपिक और ओपनएआई दोनों ही एआई की प्रगति से जुड़े अंतर्निहित जोखिमों के प्रति जिम्मेदारी से कार्य नहीं कर रहे हैं, यह कहते हुए कि 'वे अकेले खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर सीधे दौड़ रहे हैं और हमारे जीवन दांव पर लगा रहे हैं।' ह्यूबिंगर ने इस दृष्टिकोण की पुष्टि करते हुए कहा: 'जेकब यहाँ सही हैं - हम वास्तव में मानते हैं कि एआई सभी मनुष्यों को मार सकता है! मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में यह 10% से अधिक है।'
प्रौद्योगिकी और नवाचार विशेषज्ञ आर्थर इग्रहा ने इस प्रतिशत के पीछे की कार्यप्रणाली पर सवाल उठाया, और पूछा कि ह्यूबिंगर इस गणना पर कैसे पहुंचे। इग्रहा ने दशक के अंत तक मानवीय निर्णय लेने की गलतियों के बारे में अधिक चिंता व्यक्त की, यह तर्क देते हुए कि हालांकि एआई जोखिम प्रस्तुत करता है, यह मौलिक रूप से एक मानवीय उत्पाद है।
इग्रहा ने विस्तार से बताया कि एआई की क्षमता बढ़ने के साथ, यह नए मॉडल विकसित करना या समायोजन करना शुरू कर देता है, जिससे समय के साथ मानवीय हस्तक्षेप कम हो जाता है, जो चिंता पैदा करता है। उन्होंने लोगों से अधिक डरने को प्राथमिकता दी, क्योंकि एआई का कोई भी समस्याग्रस्त व्यवहार, किसी न किसी हद तक, उसके विकास के दौरान लिए गए निर्णयों का प्रतिबिंब है।
एक अन्य मोर्चे पर, सैम अल्टमैन ने पुष्टि की कि ओपनएआई 2026 में अपना आईपीओ नहीं करेगा, सुरक्षा और एआई प्रौद्योगिकियों के जोखिमों के बारे में चिंताओं को सार्वजनिक शेयर पेशकश में देरी का मुख्य कारण बताते हुए। अल्टमैन ने उद्योग की कंपनियों और सरकारों के बीच साझा जिम्मेदारी पर जोर दिया, यह बचाव करते हुए कि अस्तित्वगत जोखिमों को लाभ या कॉर्पोरेट अहंकार के लिए नजरअंदाज नहीं किया जा सकता है, और ओपनएआई के वर्तमान को सुरक्षा संरेखण और सरकारी सहयोग पर केंद्रित किया।
यह सावधानी संयुक्त राज्य अमेरिका में बढ़ते दबाव के संदर्भ में आती है, जहां दोनों दलों के राजनेता एआई क्षेत्र के लिए सख्त नियमन की मांग कर रहे हैं। इन चेतावनियों में तब वृद्धि हुई जब स्वायत्त प्रणालियों की रिपोर्टें सामने आईं जो नियंत्रण से बाहर हो गईं और अन्य प्लेटफार्मों में घुस गईं, साथ ही प्रौद्योगिकी के मार्ग के प्रति चिंतित विशेषज्ञों का जाना भी हुआ।
डारियो अमोडेई ने सबसे उन्नत मॉडलों के विकास की गति में संयम की वकालत की, एक ऐसा रुख जिसका सार्वजनिक रूप से एलोन मस्क और अल्टमैन द्वारा समर्थन किया गया है। ओपनएआई के सीईओ ने यह भी उल्लेख किया कि उद्योग की बड़ी कंपनियां गति को धीमा करने और विफलताओं को कम करने पर प्रयासों को केंद्रित करने के लिए एक सामूहिक समझौते का अध्ययन कर रही हैं।
हालांकि, एंथ्रोपिक की योजना अलग है, जो 2026 के अंत तक वित्तीय बाजार में पूंजी जुटाने के इरादे को बनाए रखती है, जिसमें एनवीडिया से संभावित निवेश है। आर्थर इग्रहा ने 2023 की एक घटना की याद दिलाई, जब एक हजार से अधिक लोगों ने एआई को खतरनाक मानते हुए इसके विकास में छह महीने के स्थगन का अनुरोध किया था, और अफसोस जताया कि तीन साल से अधिक समय बाद भी ऐसी एकता नहीं हुई।
एआई विशेषज्ञ और AGI Inc. के संस्थापक सदस्य जॉन पार्क ने एक अतिरिक्त प्रश्न उठाया: किसी कंपनी द्वारा अपनी तकनीक के अत्यधिक शक्तिशाली और खतरनाक होने के बारे में संचार निवेशकों और नीति निर्माताओं को क्या बताता है? पार्क ने तकनीकी विवरण और बाजार द्वारा महसूस किए गए आर्थिक मूल्य के बीच एक 'प्राकृतिक संबंध' देखा।
पार्क के अनुसार, जब कोई कंपनी अपने मॉडलों की परिवर्तनकारी शक्ति और अभूतपूर्व जोखिमों पर जोर देती है, तो तीन संदेश दिए जाते हैं: प्रौद्योगिकी की असाधारण क्षमता, इसके विशाल प्रभाव की क्षमता और कंपनी द्वारा असाधारण आर्थिक मूल्य हासिल करने की संभावना। हालांकि ये बिंदु मजबूत होते हैं, वह शक्ति, खतरे और आर्थिक मूल्य के बीच अंतर करने की आवश्यकता पर जोर देते हैं।
पार्क उच्च जोखिम वाले एआई सिस्टम के लिए सुरक्षा आवश्यकताओं का समर्थन करते हैं, जब मॉडल महत्वपूर्ण नुकसान पहुंचा सकते हैं तो मूल्यांकन, पारदर्शिता और नियंत्रण की मांग करते हैं। हालांकि, उन्होंने चेतावनी दी कि समस्या तब उत्पन्न होती है जब नियामक मानक उद्योग की सबसे बड़ी कंपनियों की संरचनाओं और संसाधनों को दर्शाते हैं। उनके लिए, विनियमन जोखिम के अनुपात में होना चाहिए, न कि कंपनी के बाजार आकार के अनुपात में।
उन्होंने विचार किया कि यदि वैश्विक मानकों को अमेरिकी एआई की सबसे बड़ी कंपनियों द्वारा निर्धारित किया जाता है, तो ब्राज़ीलियाई कंपनियों को उन संगठनों के लिए डिज़ाइन की गई नियामक और तकनीकी लागतों का सामना करना पड़ सकता है जिनके पास बहुत अधिक संसाधन हैं। पार्क ने निष्कर्ष निकाला कि केंद्रीय बहस दो प्रश्नों से संबंधित है: क्या एआई विकसित करने के लिए बहुत खतरनाक है, या क्या यह अन्य एजेंटों की प्रतिस्पर्धा की अनुमति देने के लिए बहुत खतरनाक है, जिसके परिणामस्वरूप एक ऐसा विनियमन हो सकता है जो विडंबनापूर्ण रूप से नए प्रतिस्पर्धियों के उदय को मुश्किल बना दे और बाहरी निर्भरता बढ़ा दे।