कृत्रिम बुद्धिमत्ता (एआई) से जुड़ी त्रुटियां परस्पर जुड़े प्रणालियों में कैस्केडिंग विफलताएं पैदा कर सकती हैं, जिससे वित्तीय संगठनों के लिए गंभीर प्रबंधन समस्याएं उत्पन्न होती हैं। भारतीय स्टेट बैंक (एसबीआई) के प्रमुख सी. एस. शेट्टी ने गुरुवार को कहा कि प्रणालीगत जोखिमों को रोकने के लिए बैंकों को स्पष्ट अनुमतियाँ, लेनदेन सीमाएँ, ऑडिट ट्रेल्स और मानवीय नियंत्रण तंत्र स्थापित करके एआई प्रबंधन को मजबूत करना चाहिए, क्योंकि बैंक तेजी से स्वायत्त प्रणालियों को लागू कर रहे हैं।
शेट्टी ने उल्लेख किया कि हालांकि एआई की क्षमताएं उत्पादकता में महत्वपूर्ण वृद्धि प्रदान करती हैं, वे प्रबंधन के क्षेत्र में नए जोखिम भी पैदा करती हैं। उन्होंने इस बात पर जोर दिया कि संस्थानों को पूरी तरह से स्पष्ट रूप से समझना चाहिए कि स्वायत्त प्रणाली किन कार्यों को अधिकृत है, वह किस जानकारी तक पहुंच सकती है, कौन से निर्णय ले सकती है और किन मामलों में मानव हस्तक्षेप आवश्यक है।
निदेशक मंडल के महत्वपूर्ण कर्तव्य
इस संदर्भ में, शेट्टी ने निदेशक मंडल के प्रमुख कर्तव्यों पर जोर दिया, जिसमें यह सुनिश्चित करना शामिल है कि कृत्रिम बुद्धिमत्ता का कार्यान्वयन केवल तकनीकी आवेग के बजाय संगठन के अपने उद्देश्यों से प्रेरित हो। उनके अनुसार, प्रौद्योगिकियों को वास्तविक व्यावसायिक समस्याओं का समाधान करना चाहिए, चाहे वह ग्राहक अनुभव को बेहतर बनाना हो, जोखिम प्रबंधन को मजबूत करना हो या वित्तीय सेवाओं तक पहुंच का विस्तार करना हो।
उन्होंने आगे कहा कि कार्यान्वयन स्वयं लक्ष्य नहीं बनना चाहिए, जो भारत जैसे विविध देश में विशेष रूप से महत्वपूर्ण है। शेट्टी ने चेतावनी दी कि एआई अनजाने में ग्रामीण उधारकर्ताओं, छोटे व्यवसायों या पारंपरिक क्रेडिट इतिहास वाले लोगों को बाहर नहीं करना चाहिए, इस बात पर जोर देते हुए कि वित्तीय पहुंच इस तकनीक के विकास और अनुप्रयोग में एक केंद्रीय तत्व बनी रहनी चाहिए।
शासन ढांचे के संबंध में, शेट्टी ने बताया कि एसबीआई बैंकिंग प्रणाली का पहला बैंक बन गया है जिसने जिम्मेदार एआई की नीति अपनाई है, जो संगठन के भीतर इस तकनीक के उपयोग के सिद्धांतों, सीमाओं और जवाबदेही को परिभाषित करती है।
उन्होंने बैंक निदेशकों को मॉडल जोखिम, डेटा प्रबंधन, साइबर सुरक्षा और एल्गोरिथम पूर्वाग्रह का आकलन करने के लिए कौशल विकसित करने की सलाह दी, साथ ही एआई की सीमाओं को भी समझना चाहिए। शेट्टी ने इसकी तुलना प्रत्येक निदेशक मंडल से अपेक्षित वार्षिक साइबर सुरक्षा अभ्यासों से की और एआई प्रशिक्षण को इस प्रक्रिया में एकीकृत करने का सुझाव दिया, इस बात पर जोर दिया कि निदेशकों को एआई के जोखिमों को समझना चाहिए, न कि जरूरी नहीं कि इसे कैसे लागू करना है।
शेट्टी ने भारतीय रिजर्व बैंक की एआई नीति का भी उल्लेख किया, जिसके अनुसार एआई प्रबंधन की अंतिम जिम्मेदारी निदेशक मंडल की होती है। हालांकि, उन्होंने यह भी बताया कि एआई उभरते जोखिमों की पहचान करके, जटिल जानकारी को सरल बनाकर और अधिक सूचित निर्णय लेने में सहायता करके बोर्ड की दक्षता बढ़ा सकता है, जिससे निदेशकों को रणनीति और दीर्घकालिक प्राथमिकताओं पर अधिक ध्यान केंद्रित करने की अनुमति मिलती है।
मानवीय जवाबदेही बनाए रखने की आवश्यकता
मानवीय जवाबदेही बनाए रखने के महत्व पर जोर देते हुए, शेट्टी ने कहा कि एआई सिफारिशें कर सकता है या कार्य कर सकता है, लेकिन संस्थागत निर्णयों की अंतिम जिम्मेदारी हमेशा निदेशक मंडल की रहनी चाहिए। उन्होंने उन गंभीर प्रबंधन चुनौतियों की ओर इशारा किया जिनका सामना संस्थान करेगा यदि वह ठीक से समझा नहीं पाता है कि एआई-आधारित प्रक्रिया ने ऋण क्यों अस्वीकार किया, लेनदेन को क्यों चिह्नित किया या कोई कार्रवाई शुरू की, इस प्रकार व्याख्यात्मकता, पता लगाने की क्षमता और स्वतंत्र सत्यापन के महत्व पर जोर दिया।
उन्होंने आगे कहा कि एआई उन स्थितियों में सबसे प्रभावी होता है जहां मापदंडों को परिभाषित किया जा सकता है, उपयुक्त डेटा उपलब्ध है और परिणामों का मूल्यांकन संभव है। हालांकि, संकटों, परिचालन वातावरण में अप्रत्याशित परिवर्तनों या अज्ञात परिस्थितियों से संबंधित रणनीतिक निर्णयों के दौरान, बोर्ड का सामूहिक अनुभव और स्वतंत्र निर्णय अमूल्य बने रहते हैं।
शेट्टी ने निष्कर्ष निकाला कि एआई को अपनाने की गति संस्थान की इस तकनीक को प्रबंधित करने की क्षमता के अनुरूप होनी चाहिए, खासकर जब निर्णयों के महत्वपूर्ण वित्तीय, कानूनी, नैतिक या प्रतिष्ठा संबंधी परिणाम होते हैं। उन्होंने उल्लेख किया कि कॉर्पोरेट प्रशासन पर विशेष तनाव तब पड़ता है जब तकनीकी परिवर्तनों की गति मौजूदा नियामक ढांचे से अधिक हो जाती है। इसलिए, निदेशक मंडल को यह सुनिश्चित करना चाहिए कि नवाचार संस्थान की अखंडता और सार्वजनिक विश्वास से समझौता किए बिना आगे बढ़े।
उन्होंने इस बात पर जोर दिया कि एआई को निदेशक मंडल के निर्णयों और निरीक्षणों का पूरक होना चाहिए, न कि उनका प्रतिस्थापन, उनकी जिम्मेदारियों को पूरा करने की उनकी क्षमता को बढ़ाते हुए जिम्मेदारी वहीं छोड़ते हुए जहां उसे होना चाहिए। देश के सबसे बड़े ऋणदाता के प्रमुख ने उल्लेख किया कि उसके बैंक ने धोखाधड़ी और परिचालन गतिविधियों के जोखिम प्रबंधन के लिए कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का उपयोग किया है। पहलों में एक पेटेंटेड एआई और मशीन लर्निंग मॉडल शामिल है जो धोखाधड़ी प्रबंधन के दृष्टिकोण से शाखाओं की पहचान करता है। यह मॉडल लगभग 23,000 शाखाओं का मूल्यांकन करता है, उन्हें बहुत उच्च, उच्च, मध्यम और निम्न जोखिम श्रेणियों में वर्गीकृत करता है। यह मूल्यांकन बैंक को शाखा ऑडिट को प्राथमिकता देने में मदद करता है।
हालांकि, शेट्टी ने बताया कि अब ध्यान व्यक्तिगत एआई उपयोग मामलों से हटकर समग्र कॉर्पोरेट कार्यान्वयन पर स्थानांतरित हो रहा है, जहां बड़े संस्थानों के लिए प्रबंधन विशेष रूप से महत्वपूर्ण होगा। उन्होंने निष्पक्षता, विश्वसनीयता, व्याख्यात्मकता, सुरक्षा और जवाबदेही को एआई प्रबंधन के महत्वपूर्ण तत्वों के रूप में परिभाषित किया। उन्होंने यह भी उल्लेख किया कि मॉडल पूर्वाग्रह एसबीआई जैसे बैंक के लिए केवल एक सैद्धांतिक समस्या नहीं है जो अत्यधिक विविध ग्राहक आधार को सेवा देता है, और 'निष्पक्षता और मॉडल पूर्वाग्रह की रोकथाम प्रबंधन के दृष्टिकोण से अत्यंत महत्वपूर्ण है'।