हाल की घटनाओं ने शक्तिशाली कृत्रिम बुद्धिमत्ता प्रणालियों की संभावित खतरनाकता के बारे में चिंताएं पैदा की हैं। सितंबर में, Anthropic के एक शोधकर्ता ने इस्तीफा दे दिया और चेतावनी दी कि शक्तिशाली एआई डेवलपर्स 'ईमानदारी से मानते हैं कि यह दशक के अंत तक हम सभी को नष्ट कर सकता है'।
कुछ दिनों बाद, स्कॉटलैंड में अपने एआई शिखर सम्मेलन का उद्घाटन करते हुए, राजा चार्ल्स ने 'अस्तित्वगत खतरों' और उन प्रौद्योगिकियों के बारे में बात की जो 'अधिक भयावह क्षमताएं - शायद मारने की क्षमता भी' प्राप्त करने का जोखिम रखती हैं।
बिल गेट्स ने चेतावनी दी कि गलत हाथों में एआई में 'अरबों मौतों' का कारण बनने वाली घटनाओं को भड़काने की पर्याप्त शक्ति है। साथ ही, समाचारों में 'अनियंत्रित एआई एजेंटों' के भागने और उनके 'अलगाव से बाहर निकलने' की घटनाओं की खबरें आ रही थीं, लेकिन सुरक्षा उपायों, सुरक्षा मानकों और समझौता किए गए सिस्टमों पर बहुत कम ध्यान दिया गया था।
एआई के उपयोग के निर्णय लेने वाले व्यापारिक नेताओं को निराशावादी और उत्साही दोनों से कम लाभ होगा। उन्हें यह निर्धारित करने के लिए एक अधिक सख्त मानदंड की आवश्यकता है कि इस तकनीक पर कब भरोसा किया जा सकता है।
उन लोगों के लिए जो दशकों से एआई क्षेत्र में काम कर रहे हैं, आधुनिक प्रणालियाँ किसी तरह सपने की पूर्ति हैं। मशीनों की अब भाषा के साथ जो कुछ करने की क्षमता है, वह पहले अकल्पनीय लगती थी।
हालांकि, चमत्कार आत्मविश्वास के बराबर नहीं है। एआई की उत्कृष्ट चीजें करने की क्षमता यह नहीं बताती कि भविष्य में वह कितनी विश्वसनीय रूप से क्या कर पाएगा, उसकी सीमाएं क्या हैं, या क्या हम उसे कुछ जिम्मेदारियां सौंपने के लिए इन सीमाओं को पर्याप्त रूप से समझते हैं।
इसलिए, जब कोई चिंताजनक शीर्षक सामने आता है, तो सवाल पूछना चाहिए: क्या परीक्षण किया गया था, किन परिस्थितियों में, किस पहुंच के साथ और किन सुरक्षा उपायों के साथ? फिर यह पता लगाना चाहिए कि यह घटना वास्तव में क्या प्रदर्शित करती है। नाटकीय विवरण स्पष्टीकरण नहीं है।
अत्यधिक अनुमान लगाना
इस क्षेत्र का इतिहास इस बात की भविष्यवाणियों से भरा पड़ा है कि मशीनें जल्द ही मनुष्यों के बराबर या उनसे बेहतर हो जाएंगी। आधुनिक प्रणालियाँ अपने पूर्ववर्तियों की तुलना में काफी अधिक सक्षम हैं, और कुछ पहलुओं में, जैसे सॉफ्टवेयर विकास और गणित में, वे पहले से ही हमसे आगे निकल गई हैं। प्रगति बहुत तेजी से हुई है।
इतिहास का सबक यह है कि वास्तविक प्रगति हमें बहुत दूर तक अनुमान लगाने के लिए लुभाती है। ऐसे आत्मविश्वासपूर्ण पूर्वानुमानों का एक कारण यह हो सकता है कि एआई भाषा का बहुत तेज़ी से उपयोग करता है। चूंकि भाषा मानव अनुभव का एक केंद्रीय तत्व है, हम सहज प्रणालियों का वर्णन मानवीय शब्दों में करते हैं: वे सोचते हैं, चाहते हैं, चिंतित होते हैं। ये शब्द तर्कसंगतता और इरादे के बारे में धारणाएं रखते हैं जिन्हें प्रौद्योगिकी का प्रदर्शन प्रमाणित नहीं करता है।
सिस्टम के व्यवहार को गंभीरता से लिया जाना चाहिए और सावधानीपूर्वक विश्लेषण किया जाना चाहिए, जिससे मानव-जैसे विवरण विश्लेषण का काम न करें। एआई की क्षमताएं विषम हैं। जो लोग प्रतिदिन इन प्रणालियों के साथ काम करते हैं, वे देखते हैं कि वे जटिल भाषा और तर्क को प्रभावशाली ढंग से संभालते हैं, और फिर किसी ऐसी चीज़ में विफल हो जाते हैं जिसे मनुष्य तुच्छ मानेगा। एक संगठन में जिसने एआई को अपनी कार्यप्रणाली या ग्राहक सेवा में एकीकृत किया है, ऐसी विफलताएं महत्वपूर्ण नुकसान पहुंचा सकती हैं। वे दुर्भावनापूर्ण इरादों के बारे में बात नहीं करते हैं; वे दिखाते हैं कि एक कार्य में सफलता दूसरे में विश्वसनीयता की गारंटी नहीं देती है।
इसलिए, निदेशक मंडल और नेताओं को शक्तिशाली लेकिन असीमित सामान्य प्रणालियों के बजाय उनकी विशिष्ट वातावरण के लिए बनाए गए स्थानीयकृत एआई को प्राथमिकता देनी चाहिए। यह भी नहीं माना जा सकता है कि एक सेटिंग में काम करने वाला उपाय दूसरी सेटिंग में भी काम करेगा।
एक सूक्ष्म जोखिम भी मौजूद है: कि घोड़ा सवार को प्रशिक्षित करता है। एआई ने अभी तक चेतना प्राप्त नहीं की है या हमें बदलने की इच्छा विकसित नहीं की है, लेकिन संगठन उन उपकरणों के अनुकूल हो जाते हैं जिनका वे उपयोग करते हैं। नेताओं को यह सवाल करना चाहिए कि क्या उनके कर्मचारी बिना जांचे सहज उत्तरों पर भरोसा करना शुरू कर चुके हैं, क्या प्रक्रियाएं प्रणाली द्वारा उत्पादित चीज़ के आसपास पुनर्गठित हो रही हैं, न कि कार्य की आवश्यकता के आसपास, और क्या निर्णय धीरे-धीरे स्थानांतरित हो रहा है क्योंकि एआई वास्तव में जितना है उससे कहीं अधिक सक्षम लगता है।
उत्तर यह है कि एआई का उपयोग कहाँ और कैसे किया जाता है, इसका सटीक निर्धारण करना है। काम शुरू करने से पहले, अफ्रीकी उद्यमों को पांच सवालों का जवाब देना चाहिए:
- कार्य निर्दिष्ट करें: एआई से वास्तव में क्या करने के लिए कहा जा रहा है?
- वास्तविक परिस्थितियों में जांचें: क्या सिस्टम वास्तविक ग्राहकों के साथ काम करता है? क्या यह समझता है कि वे भाषा का उपयोग कैसे करते हैं?
- प्रभाव सीमित करें: उसे वास्तव में किस जानकारी की आवश्यकता है? क्या उसे उन सभी डेटा तक पहुंच की आवश्यकता है जिनके बारे में आप सोचते हैं?
- कार्यक्षमता की जाँच करें: त्रुटियों का पता कैसे लगाया जाएगा? उच्च जोखिम वाले क्षेत्रों, जैसे ग्राहक गोपनीयता में क्या नियंत्रण उपाय हैं?
- जिम्मेदारी की स्पष्टता बनाए रखें: सिस्टम विफल होने पर कौन जिम्मेदार है? व्यक्ति को कहाँ और कब हस्तक्षेप करना चाहिए?
एआई का जिम्मेदार कार्यान्वयन मध्यम लेकिन मांग वाले मानक पर आधारित है: एआई का उपयोग वहां करें जहां यह संदर्भ में अपना मूल्य साबित करता है, जोखिम के अनुपात में इसे सीमित करें और इसे तैनात करने वाले लोगों के लिए जिम्मेदारी बनाए रखें।