पोप लियो XIV ने कृत्रिम बुद्धिमत्ता के एल्गोरिदम को उन निर्णयों को सौंपने के खिलाफ चेतावनी दी जो मानवीय विवेक का विशेषाधिकार बने रहने चाहिए। यह बयान एआई के विकास से जुड़े जोखिमों के बारे में बढ़ती चिंता की पृष्ठभूमि में दिया गया था।
वेटिकन में साप्ताहिक सामान्य संबोधन के दौरान, पोप ने कहा कि तकनीकी विकास, मास मीडिया और सोशल नेटवर्कों का प्रसार, और कृत्रिम बुद्धिमत्ता का बढ़ता उपयोग नए अवसर खोल रहे हैं, बाधाओं और दूरियों को तोड़ रहे हैं। हालांकि, उन्होंने यह भी चेतावनी दी कि संबंध कम व्यक्तिगत और अधिक आभासी होते जा रहे हैं, जिससे इस बात की आदत पड़ने का खतरा पैदा हो रहा है कि जो निर्णय विशेष रूप से मानवीय विवेक से संबंधित हैं, उन्हें एल्गोरिदम को सौंप दिया जाता है।
उन्होंने इस बात पर जोर दिया कि ईसाई समुदाय का योगदान यह सुनिश्चित करना है कि सामाजिक संबंध वास्तविक सार और व्यक्तिगत गहराई रखते हों। हाल के सुरक्षा घटनाओं और एआई मॉडल की बिना मानवीय हस्तक्षेप के स्वयं को बेहतर बनाने की क्षमता के उदय के बाद पिछले कुछ हफ्तों में एआई के बारे में चिंता बढ़ गई है। चर्चा अब क्षेत्र की आत्म-नियमन क्षमता को भी छूती है।
मई में प्रकाशित अपने पहले प्रमुख दस्तावेज़, विश्वकोश संदेश 'मैग्निफिका ह्यूमैनिटास' (महान मानवता) में, कैथोलिक चर्च के प्रमुख ने एआई को 'अशस्त्र करने' का आह्वान किया ताकि 'मानवता पर इसके प्रभुत्व को रोका जा सके'। इसके अलावा, हाल के महीनों में पवित्र सिंहासन ने मानव गरिमा पर आधारित एआई के अंतरराष्ट्रीय शासन का समर्थन करने के लिए अपनी पहलों को सक्रिय किया है, विशेष रूप से परमाणु प्रौद्योगिकी, संस्कृति और कलात्मक रचनात्मकता के क्षेत्रों में।
छोटे प्रतिस्पर्धियों के बारे में चिंताएं
एआई के क्षेत्र में सबसे बड़ी वैश्विक कंपनियां मानक स्थापित करने वाले निकाय के निर्माण पर काम कर रही हैं। ओपनएआई ने मंगलवार को बताया, क्योंकि एआई के खतरों के बारे में चिंता बढ़ रही है और इस तकनीक के अधिक सुरक्षित संस्करण के निर्माण के लिए दबाव बढ़ रहा है। ओपनएआई ने घोषणा की कि वह गूगल डीपमाइंड के डेमिस हास्साबीस के प्रस्ताव से उत्पन्न एक विचार पर एंथ्रोपिक और गूगल के साथ सहयोग कर रहा है, जिसमें अमेरिकी स्टॉकब्रोकरों और निवेश फर्मों को नियंत्रित करने वाला एक वित्तीय नियामक उद्योग जैसा स्व-नियामक निकाय बनाया जाएगा।
जुलाई में, हास्साबीस ने संयुक्त राज्य अमेरिका से एक ऐसा संगठन बनाने का आग्रह किया जो जनता के लिए जारी होने से पहले सबसे शक्तिशाली एआई सिस्टम का परीक्षण करे। उन्होंने उल्लेख किया कि 'वित्त पोषण महत्वपूर्ण होना चाहिए और संभवतः मुख्य रूप से उद्योग से आना चाहिए ताकि विश्व स्तरीय तकनीकी प्रतिभाओं को आकर्षित किया जा सके और बड़े पैमाने पर परीक्षण के लिए आवश्यक कम्प्यूटेशनल संसाधन प्रदान किए जा सकें'।
ओपनएआई के सीईओ सैम ऑल्टमैन ने मंगलवार को अंतर-उद्योग सहयोग का समर्थन किया, यह स्वीकार करते हुए कि कंपनियों और देशों के बीच प्रतिस्पर्धा से सुरक्षा के मुद्दों को पीछे धकेला जा सकता है। सैन फ्रांसिस्को में सेल्सफोर्स द्वारा आयोजित एक सम्मेलन में ऑल्टमैन ने कहा: 'मुझे लगता है कि यह शानदार है कि हमारा उद्योग कह रहा है कि वह एकजुट होना चाहता है और समन्वय करने और यह सुनिश्चित करने में सक्षम होना चाहता है कि हमारे पास इसे सुरक्षित रूप से करने के लिए पर्याप्त समय है।' उन्होंने आगे कहा कि लोग बहुत डरते हैं जब उद्योग में किसी के 'गलत काम करने' का संकेत मिलता है।
कुछ प्रौद्योगिकीविदों को डर है कि एआई दिग्गजों के बीच सहयोग छोटे प्रतिस्पर्धियों को बाहर कर सकता है। कनाडा की एआई कंपनी कोहेर के सह-संस्थापक और सीईओ ने हाल ही में प्रमुख अमेरिकी एआई प्रयोगशालाओं पर सुरक्षा सुनिश्चित करने के बहाने 'कार्टेल' बनाने का आरोप लगाया। कोहेर के सह-संस्थापक और सीईओ आयडाना गोमेज़ ने रविवार को एक ब्लॉग पोस्ट में लिखा: 'एआई को सीमाओं की आवश्यकता है। यह बहस नहीं है, और कभी नहीं थी। बहस इस बारे में है कि कौन उन्हें लिखता है, कौन भाग लेने का हकदार है और नियम किसके हितों की रक्षा करते हैं।'
एआई सुरक्षा समस्याओं का बढ़ना
एआई सुरक्षा चिंताओं में हाल के हफ्तों में वृद्धि हुई है, जिसमें प्रमुख एआई कंपनियों छोड़ने वाले कर्मचारियों से चेतावनियां शामिल हैं जो उद्योग में जोखिमों के बारे में चिंतित थे। पिछले सप्ताह, शोधकर्ता जेकब कॉक्सन एंथ्रोपिक छोड़ गए और चेतावनी दी कि एआई प्रयोगशालाएं 'हमारे जीवन के साथ खेल रही हैं'। वह पहले ओपनएआई में भी काम कर चुके थे।
सोमवार को, गूगल डीपमाइंड के पूर्व शोधकर्ता बिलाल चुट्टा ने कॉक्सन और अन्य द्वारा व्यक्त की गई चिंताओं को दोहराया। उन्होंने सोशल मीडिया पर लिखा: 'मेरा दृढ़ विश्वास है कि एआई संभावित रूप से हम सभी को मार सकता है, और हम इस परिणाम से बचने के लिए समय गंवा सकते हैं।'
शनिवार को एंथ्रोपिक के सीईओ डारियो अमोडेई ने एआई के विकास की गति धीमी करने का आह्वान किया, इस राय का समर्थन सैम ऑल्टमैन, एलोन मस्क और हास्साबीस जैसे सीईओ ने किया। एआई के विनाशकारी परिणामों से चिंतित अमेरिकी सीनेटर बर्नी सैंडर्स ने कहा कि तकनीकी नेताओं पर विकास धीमा करने या सुरक्षा मानक स्थापित करने के वादों को पूरा करने के लिए भरोसा नहीं किया जा सकता है। सैंडर्स ने वाशिंगटन में एआई सुरक्षा कार्यक्रम में कहा: 'जब मानवता का भविष्य दांव पर होता है, तो हमें उद्योग से स्वैच्छिक मानकों के बजाय अनिवार्य अंतरराष्ट्रीय सुरक्षा नियमों की आवश्यकता होती है।'
ऑल्टमैन ने चेतावनी दी कि एआई दुर्घटनाएं, छोटी या बड़ी, अपरिहार्य हो सकती हैं। ऑल्टमैन ने कहा: 'किसी भी नई तकनीक के साथ दुर्घटनाएं अपरिहार्य हैं, और हमारे पास उनके बारे में पारदर्शी रूप से सूचित करने की एक उत्कृष्ट संस्कृति होनी चाहिए।' उन्होंने आगे कहा: 'मेरा मानना है कि उनसे तेजी से सीखना और जैसे-जैसे वे सामने आते हैं वैसे-वैसे अनुकूलन हमारी उद्योग के लिए फायदेमंद होगा, और शायद हम बड़े, संभावित रूप से विनाशकारी घटनाओं से बच सकते हैं।'
ट्रम्प चेतावनियों को खारिज करते हैं
अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने सोमवार को एआई जोखिम चेतावनियों को 'शोहरत' करार दिया। एनवीडिया के सीईओ जेन्सेन हुआंग ने भी आपत्ति जताई, यह संकेत देते हुए कि एआई चेतावनियां एक समन्वित अभियान का हिस्सा थीं। हुआंग ने सोमवार को लॉस एंजिल्स में एक सम्मेलन में कहा: 'इन शब्दों और फिर पूर्वानुमानों का संयोजन चिंता और घबराहट पैदा करता है, और ऐसा नहीं किया जाना चाहिए। यह गैर-जिम्मेदाराना है।' जब ट्रम्प ने मंच पर होते हुए उन्हें फोन किया, तो हुआंग ने ट्रम्प को एआई चेतावनियों के लिए 'जागरूक' होने के लिए धन्यवाद दिया। एनवीडिया एआई क्रांति के केंद्र में है, इसके चिप्स अधिकांश प्रणालियों को शक्ति प्रदान करते हैं, और हुआंग ट्रम्प के अनौपचारिक सलाहकार बन गए हैं।