वित्त मंत्री निर्मला सीतारमण ने शुक्रवार को कृत्रिम बुद्धिमत्ता (एआई) के लिए अधिक सख्त सुरक्षा तंत्र, मानवीय निरीक्षण और विनियमन समन्वय को लागू करने का आह्वान किया। उन्होंने प्रौद्योगिकी के तेजी से विकास के परिणामस्वरूप उत्पन्न होने वाले प्रणालीगत जोखिमों के बारे में चेतावनी दी।
सीतारमण ने इस बात पर जोर दिया कि उचित सुरक्षा उपायों के बिना, समाज को संभावित रूप से एआई के नियंत्रण से बाहर होने के मुद्दे को स्वयं हल करना होगा, जिसे उन्होंने 'अस्थिर' जोखिम वितरण बताया। उनके ये बयान एआई उद्योग में उन्नत एआई मॉडल के विकास और कार्यान्वयन की गति को लेकर बढ़ती चिंता के बीच आए।
हाल ही में, एक शोधकर्ता ने दुनिया की एक प्रमुख एआई प्रयोगशाला छोड़ दी, और सार्वजनिक रूप से यह घोषणा की कि वाणिज्यिक उन्नत प्रयोगशालाएं 'स्व-सुधारने वाले सुपरइंटेलिजेंस की ओर बढ़ रही हैं और हमारे जीवन के साथ खेल रही हैं'। सीतारमण ने सवाल उठाया कि क्या इस चेतावनी पर ध्यान से विचार किया जाना चाहिए या इसे केवल अतिशयोक्तिपूर्ण जोखिम माना जाना चाहिए, और उन्होंने जोड़ा कि उनका उद्देश्य घबराहट पैदा करना नहीं है, बल्कि समग्र मानवता के प्रति संस्थागत जिम्मेदारी पर जोर देना है।
ग्लोबल फिनटेक फेस्टिवल 2026 में अपने संबोधन के दौरान, उन्होंने पूछा कि वैश्विक एआई उद्योग में कौन जनता को शांत करने और यह प्रदर्शित करने का कार्य लेगा कि सुरक्षा उपाय वास्तव में विकास की गति के साथ तालमेल बिठा रहे हैं। उन्होंने यह भी उल्लेख किया कि प्रौद्योगिकियों का उपयोग स्वयं प्रौद्योगिकियों द्वारा बनाई गई कमजोरियों को दूर करने के लिए किया जा सकता है, लेकिन सुरक्षा तंत्रों को जोखिमों की तरह ही तेज़ी से विकसित होना चाहिए।
सीतारमण ने एआई को 'दोधारी तलवार' के रूप में वर्णित किया, जिसमें धोखाधड़ी का पता लगाने में सुधार करने की क्षमता है, लेकिन साथ ही दुर्भावनापूर्ण अभिनेताओं को 'अधिक बड़े और परिष्कृत साइबर हमलों' को स्वचालित करने की अनुमति भी देता है। उन्होंने जोर दिया कि लक्ष्य नवाचार और सुरक्षा के बीच संतुलन बनाना होना चाहिए, न कि एक के बदले दूसरे को चुनना। उन्होंने 'अंतर्निहित जांच, मानवीय निरीक्षण और सिस्टम की रक्षा करने वाले ब्रेक' बनाने का आह्वान किया, इस बात पर जोर दिया कि निर्णय लेने में एआई मदद करता है, तब भी जिम्मेदारी हमेशा मनुष्यों और संस्थानों की रहनी चाहिए।
वित्त मंत्री ने नियामकों, निदेशक मंडल और वरिष्ठ प्रबंधन से भी आगाह किया कि वे एआई के प्रबंधन को पूरी तरह से तकनीकी टीमों को सौंप न दें। इन समूहों को यह समझना चाहिए कि एआई कहाँ लागू किया जाता है, यह किन निर्णयों को प्रभावित करता है, किस डेटा पर यह निर्भर करता है, और सिस्टम विफल होने पर क्या हो सकता है। अधिक जोखिम वाले अनुप्रयोगों को उनके पूरे जीवनचक्र से पहले और दौरान अधिक सावधानीपूर्वक निगरानी की जानी चाहिए। हालांकि, सीतारमण ने यह भी याद दिलाया कि एआई को अपनाने से इनकार करने में भी जोखिम होते हैं, क्योंकि जो संस्थान केवल पुरानी प्रणालियों पर भरोसा करते रहते हैं, वे प्रतिस्पर्धात्मकता खो सकते हैं या गायब हो सकते हैं।
उन्होंने निष्कर्ष निकाला कि विकल्प एआई को अपनाना और उससे बचना के बीच नहीं है, बल्कि जिम्मेदार और अच्छी तरह से प्रबंधित कार्यान्वयन के बीच है। संस्थानों को मूल्यांकन करने की आवश्यकता है कि एआई कहाँ मूल्य बनाता है, कहाँ यह महत्वपूर्ण जोखिम प्रस्तुत करता है, और प्रत्येक उपयोग परिदृश्य के लिए किस प्रकार के सुरक्षा उपायों की आवश्यकता है। इसके अलावा, वित्तीय नियामकों, एंटीट्रस्ट निकायों, डेटा संरक्षण प्राधिकरणों और साइबर सुरक्षा एजेंसियों को अपनी जिम्मेदारियों और समन्वय के लिए विश्वसनीय तंत्रों के संबंध में स्पष्टता प्राप्त करनी चाहिए।
सीतारमण ने बताया कि उन्होंने भारतीय रिजर्व बैंक (आरबीआई) के साथ नवाचारों को दबाए बिना उभरते एआई जोखिमों को हल करने के लिए नियामक दृष्टिकोण लागू करने की संभावना पर चर्चा की। उन्होंने केंद्रीय बैंक को थोक और खुदरा डिजिटल मुद्रा के पायलट प्रोजेक्ट को आगे बढ़ाने और डिजिटल रुपये के संबंध में अपनी क्षमताओं को बेहतर बनाने की पुरजोर सिफारिश भी की।
मंत्री ने प्रौद्योगिकी की सीमा-पार प्रकृति और राष्ट्रीय विनियमन की सीमाओं के बीच बढ़ते अंतर पर भी प्रकाश डाला। उन्होंने उल्लेख किया कि एआई, फिनटेक और डिजिटल प्लेटफॉर्म स्वाभाविक रूप से ऐसे मॉडल हैं जिन्हें एक देश में विकसित किया जा सकता है, दूसरे में बुनियादी ढांचे और मॉडल का उपयोग किया जा सकता है, तीसरे में ग्राहकों को सेवा प्रदान की जा सकती है और कई क्षेत्राधिकारों में राजस्व उत्पन्न किया जा सकता है। हालांकि इन उत्पादों को बनाने वाली प्रतिभाएं कई देशों में केंद्रित हो सकती हैं, बाजार वैश्विक है, जबकि नियम राष्ट्रीय बने रहते हैं।
सीतारमण ने इस बात पर जोर दिया कि विदेशी बाजारों में जाने की चाह रखने वाली भारतीय प्रौद्योगिकी कंपनियों के लिए, सीमा-पार विनियमन को नेविगेट करना अब एक गौण मुद्दा नहीं रहा है और इसे उनकी वैश्विक विकास रणनीति का हिस्सा बनना चाहिए। उन्होंने सुझाव दिया कि भारत की तकनीकी पारिस्थितिकी तंत्र को एकजुट करने के लिए एक संघीय मंच बनाना उचित हो सकता है ताकि क्षेत्र को अंतरराष्ट्रीय मंच पर 'एक आधिकारिक सामूहिक आवाज' मिल सके। ऐसा मंच विदेशी सरकारों और नियामकों के साथ बातचीत कर सकता है, संगत मानकों पर काम कर सकता है, सर्वोत्तम प्रथाओं का आदान-प्रदान कर सकता है और भारतीय कंपनियों को नए बाजारों में प्रवेश करने में मदद कर सकता है। फिर भी, प्रौद्योगिकी कंपनियों को उन क्षेत्राधिकारों में अपने कर दायित्वों को पूरा करना चाहिए जहां वे लाभ कमाती हैं, और 'उस समाज को कुछ वापस देना चाहिए जिसने उनकी सफलता को संभव बनाया'।