कृत्रिम बुद्धिमत्ता अविश्वसनीय गति से विकसित हो रही है, जिससे इस तकनीक के निर्माण में शामिल कुछ विशेषज्ञों में चिंताएं पैदा हो रही हैं। ये लोग चेतावनी देते हैं कि मानवता को एआई पर नियंत्रण बनाए रखने में कठिनाइयों का सामना करना पड़ सकता है।
उद्योग के अन्य प्रतिनिधियों का मानना है कि विकास की गति को धीमा करना न तो व्यावहारिक है और न ही आवश्यक है। इसके बजाय, वे प्रतिस्पर्धा, उपभोक्ता चयन, कानूनी जिम्मेदारी और बेहतर सुरक्षा परीक्षण को जोखिमों के प्रबंधन के लिए इष्टतम तरीकों के रूप में इंगित करते हैं।
यह असहमति इस सप्ताह अधिक सार्वजनिक हो गई है क्योंकि एआई शोधकर्ता, प्रौद्योगिकी कंपनी के नेता, राजनेता और संयुक्त राष्ट्र अधिक शक्तिशाली प्रणालियों के संभावित लाभों का मूल्यांकन उन परिणामों की चिंताओं के मुकाबले कर रहे हैं यदि वे मानव नियंत्रण से बाहर कार्य करना शुरू कर दें।
यहां तक कि संस्थापक भी चिंतित हैं
चर्चा के केंद्र में वह तकनीक है जो तेजी से स्वायत्त होती जा रही है। आधुनिक एआई एजेंट लंबे समय से केवल सवालों के जवाब देने या छवियों और पाठ उत्पन्न करने से आगे निकल चुके हैं; अब वे कार्य करने, वेबसाइटों के साथ इंटरैक्ट करने, कोड लिखने और चलाने में सक्षम हैं, और कुछ मामलों में - काफी कम मानवीय हस्तक्षेप के साथ कार्रवाई करने में सक्षम हैं।
यह विशेष रूप से योशुआ बेंजिओ को चिंतित करता है, जो एक कनाडाई कंप्यूटर वैज्ञानिक हैं जिन्हें कई लोग आधुनिक एआई के संस्थापकों में से एक मानते हैं। बेंजिओ, जिन्होंने 2018 में एआई के अग्रणी जेफ्री हिंटन के साथ ट्यूरिंग पुरस्कार जीता था, ने एएफपी को बताया कि मानवता इस तकनीक पर 'नियंत्रण खो रही है' और परमाणु हथियारों के लिए विकसित उपायों के बराबर सावधानी की आवश्यकता है।
उन्होंने जुलाई में हुई एक चिंताजनक घटना का हवाला दिया, जब ओपनएआई की रिपोर्ट के अनुसार प्रायोगिक एआई एजेंट परीक्षण वातावरण से बाहर निकल गए, इंटरनेट तक पहुंच प्राप्त की और हगिंग फेस प्लेटफॉर्म पर अनधिकृत घुसपैठ की।
बेंजिओ के लिए इस घटना का महत्व स्वयं घटना में नहीं है, बल्कि इस बात में है कि यह स्वायत्त प्रणालियों की क्षमताओं के बारे में क्या प्रदर्शित करती है। उन्होंने चेतावनी दी कि एआई एजेंट अंततः साइबर सुरक्षा उपायों को दरकिनार कर सकते हैं और मानव अनुमति के बिना कंपनियों या अन्य प्रणालियों तक पहुंच प्राप्त कर सकते हैं।
जोखिम लोगों के व्यवहार में हेरफेर तक फैल सकते हैं। बेंजिओ ने एएफपी को बताया कि अधिक सक्षम एआई सिस्टम में लोगों के साथ संबंध स्थापित करने और उन्हें समाज के बजाय एआई के हितों में कार्य करने के लिए मनाने की क्षमता विकसित हो सकती है।
दूर के भविष्य में, उन्होंने चेतावनी दी कि एआई संभावित रूप से मानव मार्गदर्शन की आवश्यकता के बिना भौतिक दुनिया में कार्य कर सकता है। सबसे विनाशकारी परिदृश्यों को चरम मानते हुए, उन्होंने जोर दिया कि बहुत कम नाटकीय विफलताएं बड़े परिणाम दे सकती हैं - वित्तीय प्रणालियों में व्यवधान से लेकर महत्वपूर्ण बुनियादी ढांचे के पतन तक।
अस्तित्वगत खतरा?
उद्योग के विशेषज्ञों में बेंजिओ अकेले नहीं हैं जो ऐसी चिंताएं व्यक्त कर रहे हैं। बिलाल चुट्टाई, गूगल डीपमाइंड के पूर्व अनुसंधान इंजीनियर, जो जुलाई में कंपनी छोड़ गए थे, ने चेतावनी दी कि एआई अंततः अनियंत्रित हो सकता है और एक संभावित अस्तित्वगत खतरा प्रस्तुत कर सकता है। उनकी चिंताएं जेकब कॉक्सन के बयानों से मेल खाती हैं, जो एंथ्रोपिक के पूर्व कर्मचारी हैं, जिनकी इस्तीफे और एआई सुरक्षा पर चेतावनियों ने बहस को तेज किया है।
चुट्टाई का तर्क है कि एआई की क्षमताएं उस दर से बढ़ रही हैं जिस दर से शोधकर्ता उन्नत प्रणालियों को मानवीय हितों के अनुरूप कैसे बनाया जाए, इसकी समझ विकसित कर रहे हैं। यह अवधारणा, जिसे एआई संरेखण (AI alignment) के रूप में जाना जाता है, सुरक्षा पर बहस में केंद्रीय समस्याओं में से एक बन गई है।
हालांकि, सभी अधिक निराशावादी भविष्यवाणियों से सहमत नहीं हैं। मार्क ज़करबर्ग एक अलग, लेकिन समान रूप से संदेहपूर्ण रुख रखते हैं व्यापक धीमेपन के आह्वान के प्रति। एनवीडिया के सीईओ जेन्सेन हुआंग ने इस दावे को खारिज कर दिया कि एआई मानवता को नष्ट कर सकता है, यह तर्क देते हुए कि ऐसे पूर्वानुमानों का कोई वैज्ञानिक आधार नहीं है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने एआई के विनाशकारी जोखिमों की चेतावनियों को 'घोटाला' भी कहा और नियंत्रण को कड़ा करने के आह्वान का विरोध किया, यह मानते हुए कि यह वैश्विक एआई दौड़ में अमेरिका की स्थिति को कमजोर कर सकता है।
मेटा के मुख्य कार्यकारी अधिकारी मार्क ज़करबर्ग व्यापक धीमेपन के आह्वान के संबंध में एक अलग, लेकिन समान रूप से संदेहपूर्ण दृष्टिकोण रखते हैं। उनका मानना है कि कंपनियों के पास अपनी एआई प्रणालियों को विश्वसनीय बनाने के मजबूत वाणिज्यिक प्रोत्साहन हैं, क्योंकि उपभोक्ता उन उत्पादों का उपयोग करना जारी नहीं रखेंगे जो अप्रत्याशित या उनके हितों के विरुद्ध व्यवहार करते हैं। इसके अलावा, उनका तर्क है कि कानूनी जिम्मेदारी कंपनियों को सुरक्षा को गंभीरता से लेने के लिए प्रेरित करती है। ज़करबर्ग ने मेटा द्वारा अपने म्यूज़ एआई सिस्टम के लॉन्च को सुरक्षा और सुरक्षा उपायों पर काम करते समय स्थगित करने के उदाहरण का उल्लेख किया। वह एआई सिस्टम के स्वतंत्र मूल्यांकन का भी समर्थन करते हैं, हालांकि वह व्यक्तिगत एआई कंपनियों से निकटता से जुड़े संगठनों पर निर्भर रहने के बजाय मूल्यांकनकर्ताओं का एक व्यापक और विविध नेटवर्क बनाने का आग्रह करते हैं।
क्या गति धीमी करनी चाहिए?
इस प्रकार, उद्योग एक मौलिक प्रश्न पर विभाजित है: क्या अधिक शक्तिशाली एआई के विकास को धीमा किया जाना चाहिए, या कंपनियों को सुरक्षा उपायों में सुधार करते हुए आगे की दौड़ जारी रखनी चाहिए?
एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने एआई कंपनियों से उन्नत प्रणालियों के विकास की गति को जानबूझकर धीमा करने का आग्रह किया। उनके रुख को सार्वजनिक क्षेत्र में ओपनएआई के मुख्य कार्यकारी अधिकारी सैम अल्टमैन, गूगल डीपमाइंड के अध्यक्ष डेमिस हास्साबिस और एलोन मस्क का समर्थन मिला है।
इस बीच, ओपनएआई, एंथ्रोपिक और गूगल एक उद्योग मानक निकाय बनाने के विचार पर काम कर रहे हैं जो शक्तिशाली एआई सिस्टम को जारी करने से पहले उनका परीक्षण कर सके। यह प्रस्ताव आंशिक रूप से अमेरिकी वित्तीय उद्योग को नियंत्रित करने वाले निकाय के समान एक स्वतंत्र संगठन की अवधारणा पर आधारित है।
अल्टमैन ने कहा कि एआई कंपनियों के बीच सहयोग प्रौद्योगिकी के सुरक्षित विकास के लिए पर्याप्त समय सुनिश्चित करने में मदद कर सकता है, यह स्वीकार करते हुए कि नई तकनीक के साथ दुर्घटनाओं से पूरी तरह बचना असंभव है।
हालांकि, उद्योग के स्व-नियमन के विचार के आलोचक हैं। कोहेर के सह-संस्थापक और सीईओ आयडन गोमेज़ का तर्क है कि विवाद इस बारे में नहीं है कि क्या एआई को सुरक्षा उपायों की आवश्यकता है, बल्कि इस बारे में है कि नियम कौन लिखेगा और कौन उन्हें स्थापित करने में भाग लेगा। यह प्रश्न तेजी से सिलिकॉन वैली से परे जा रहा है।
संयुक्त राष्ट्र के महासचिव एंटोनियो गुटेरेस ने अंतरराष्ट्रीय समन्वय का आह्वान किया, चेतावनी दी कि एआई सीमाओं को पार करता है, और इसलिए इसके जोखिमों को अकेले देशों द्वारा प्रबंधित नहीं किया जा सकता है। मानवाधिकार के लिए संयुक्त राष्ट्र प्रमुख, फोल्केर तुर्क, ने और आगे बढ़कर, सबसे उन्नत एआई प्रणालियों को विकसित करने वाली सरकारों और कंपनियों से तत्काल कार्रवाई का आह्वान किया। तुर्क ने चेतावनी दी कि केवल स्वैच्छिक उद्योग उपायों पर भरोसा करना अपर्याप्त है, और मानवाधिकार कानूनों पर आधारित अंतरराष्ट्रीय नियमों का आह्वान किया। उन्होंने सैन्य उद्देश्यों के लिए अधिक स्वायत्त एआई एजेंटों के उपयोग और पानी, हीटिंग और वित्तीय प्रणालियों जैसी आवश्यक सेवाओं तक पहुंच के संभावित उल्लंघन के बारे में भी चिंता व्यक्त की। इस प्रकार, संयुक्त राष्ट्र का संदेश समग्र रूप से बेंजिओ के तर्क के अनुरूप है कि एआई को केवल एक और वाणिज्यिक तकनीक के रूप में नहीं देखा जाना चाहिए।
क्या यह परमाणु हथियार के समान है?
इक्वाडोर और लेबनान की राजनयिक इवोन्ना ए-बाकी, जो संयुक्त राष्ट्र के महासचिव पद की उम्मीदवार हैं, ने एआई को परमाणु हथियार के विनियमन के समान तरीके से विनियमित करने का आह्वान किया। उन्होंने तर्क दिया कि संयुक्त राज्य अमेरिका और चीन के बीच सहयोग विशेष रूप से महत्वपूर्ण होगा, क्योंकि दोनों देश वैश्विक एआई दौड़ में केंद्रीय भूमिका निभाते हैं।
हालांकि, ऐसा प्रतीत होता है कि एआई असामान्य राजनीतिक गठबंधन और अंतर्राष्ट्रीय मतभेद पैदा कर रहा है। इस सप्ताह वाशिंगटन में एक सम्मेलन में, स्वतंत्र अमेरिकी सीनेटर बर्नी सैंडर्स और पूर्व ट्रम्प सलाहकार स्टीव बैनन - अमेरिकी राजनीतिक स्पेक्ट्रम के विपरीत छोर से हस्तियां - दोनों ने उन्नत एआई से उत्पन्न खतरों के बारे में चेतावनी दी। उनके प्रस्तावित समाधान बहुत भिन्न हैं। सैंडर्स ने कृत्रिम सुपरइंटेलिजेंस के विकास पर रोक और चीन के साथ बातचीत का आह्वान किया, जबकि बैनन ने अमेरिकी और चीनी एआई उद्योगों के बीच कहीं अधिक स्पष्ट अलगाव का समर्थन किया। फिर भी, उनकी साझा चिंता दर्शाती है कि एआई पर बहस पारंपरिक राजनीतिक विभाजन को कैसे पार करना शुरू कर रही है।
आम लोगों के लिए उपयोगी उपकरण के रूप में एआई
सरकारों, प्रयोगशालाओं और बोर्डरूम के अलावा, आम लोग यह समझने की कोशिश कर रहे हैं कि यह तकनीक उनके लिए क्या मायने रखती है। एएफपी ने इस सप्ताह कई देशों में लोगों का सर्वेक्षण किया और उत्साह, अनिश्चितता और भय का मिश्रण पाया। छात्रों ने एआई को अनुसंधान और नौकरी आवेदनों के लिए एक अत्यंत उपयोगी उपकरण बताया। कुछ उपयोगकर्ताओं ने उल्लेख किया कि चैटबॉट पारंपरिक सेवाओं के माध्यम से दोहराना मुश्किल सहायता और उत्तर प्रदान कर सकते हैं।
अन्य लोग प्रौद्योगिकी पर निर्भरता, नौकरियों के नुकसान या स्वतंत्र रूप से सोचने की क्षमता के क्रमिक नुकसान के बारे में चिंतित थे। सैन फ्रांसिस्को के एक सॉफ्टवेयर इंजीनियर ने एएफपी को बताया कि एआई एजेंट पहले ही उनके काम को बदल चुके हैं, क्योंकि सिस्टम अब वह कोड लिख रहे हैं जिसे वे पहले खुद बनाते थे। चीन में एक कर्मचारी ने दावा किया कि व्यवसाय सरकारी नियमों पर भरोसा नहीं कर सकते और उन्हें सरकारी नियमों की आवश्यकता है। फ्रांस में एक प्रशिक्षु मैकेनिक ने टिप्पणी की कि प्रौद्योगिकी इतनी तेजी से विकसित हो रही है कि समाज इसके परिणामों को समझने में विफल रहा है।
बहस का जटिल हिस्सा
यह चर्चा का सबसे कठिन हिस्सा हो सकता है। इस बात पर व्यापक सहमति है कि यह तकनीक शिक्षा और स्वास्थ्य से लेकर वैज्ञानिक अनुसंधान और उत्पादकता तक भारी लाभ ला सकती है। यह भी सहमति बढ़ रही है कि अधिक स्वायत्त प्रणालियों को सावधानियों की आवश्यकता है। यह सवाल अनसुलझा रहता है कि इन उपायों को कितनी जल्दी लागू करने की आवश्यकता है, कौन उन्हें लागू करेगा और क्या विनियमन तकनीक के साथ तालमेल बिठा पाएगा।
बेंजिओ का मानना है कि इसका उत्तर अंतरराष्ट्रीय संधियों और लोकतांत्रिक निरीक्षण की मांग करता है। संयुक्त राष्ट्र वैश्विक समन्वय का आह्वान करता है। कुछ एआई कंपनियां उद्योग मानकों का लक्ष्य रखती हैं, जबकि अन्य का तर्क है कि प्रतिस्पर्धा और जिम्मेदारी प्रणालियों को सुरक्षित बनाने के लिए पर्याप्त प्रोत्साहन प्रदान करेगी। इस बीच, तकनीक विकसित करना जारी रखती है। और यह दुनिया को एक अजीब दौड़ के सामने छोड़ देता है: न केवल अधिक शक्तिशाली एआई बनाना, बल्कि इसे तब तक समझना और प्रबंधित करना जब तक कि यह नियंत्रण के लिए बनाए गए सिस्टमों से अधिक शक्तिशाली न हो जाए।
