आर्टिफिशियल इंटेलिजेंस (एआई) के विनियमन पर बढ़ती चर्चाओं के आलोक में, एक लेखक नए नियमों के निर्माण के बजाय पहले से मौजूद कानूनों को लागू करने पर ध्यान केंद्रित करने का सुझाव देता है।
एक सप्ताह पहले, एंथ्रोपिक के सीईओ, डारियो अमोडेई ने एक खुला पत्र प्रकाशित किया जिसमें एआई के विकास को धीमा करने और नए नियंत्रण और निगरानी उपायों को लागू करने की मांग करते हुए आग्रह किया गया। सैम अल्टमैन और एलोन मस्क ने कुछ ही घंटों के भीतर उनके रुख का समर्थन किया।
यह पत्र एंथ्रोपिक से जेकब कॉक्सन के सार्वजनिक इस्तीफे के बाद आया, जिन्होंने दावा किया कि प्रमुख एआई प्रयोगशालाएं लापरवाही से आत्म-सुधार करने वाली सुपरइंटेलिजेंट प्रणाली बनाने की जल्दी में हैं। कॉक्सन का तर्क है कि सुरक्षा पर प्रतिस्पर्धी दबाव को प्राथमिकता देने से कंपनियां 'हमारे जीवन के साथ खेल' की स्थिति में आ जाती हैं। एंथ्रोपिक में प्रबंधन विज्ञान विभाग के प्रमुख, एवन हुबिंगर, अगले दशक में उन्नत एआई से आपदा के जोखिम का मूल्यांकन 10% से अधिक मानते हैं।
जबकि एआई के लिए वैश्विक मानदंडों, मॉडल के सामंजस्य और सुरक्षा उपायों को लागू करने पर सक्रिय रूप से चर्चा हो रही है, इस बात की कोई सामान्य समझ नहीं है कि 'जिम्मेदार एआई' का क्या मतलब है, और वैश्विक सहमति एक दूर की संभावना लगती है।
इसके विपरीत, कोलंबिया विश्वविद्यालय के नाइट फर्स्ट अमेंडमेंट इंस्टीट्यूट द्वारा प्रकाशित एक लेख एक अलग अवधारणा प्रस्तुत करता है: एआई को एक सामान्य तकनीक के रूप में देखा जाना चाहिए। प्रिंस्टन के अर्विन्द नारायणन और सायश कपूर द्वारा प्रस्तुत इस दृष्टिकोण के अनुसार, एआई कोई अलौकिक चीज़ नहीं है, बल्कि एक नई तकनीक है जो उत्पाद दायित्व, नागरिक और आपराधिक कानून के मानक कानून के दायरे में आती है।
सिद्धांत सरल है: यदि कोई दोषपूर्ण उत्पाद बाजार में आता है और नुकसान पहुंचाता है, तो व्यक्ति जिम्मेदार होता है। इसी तरह, यदि किसी उपकरण का उपयोग करके किया गया कार्य, चाहे वह दोषपूर्ण हो या नहीं, क्षति पहुंचाता है, तो जिम्मेदारी निष्पादक पर होती है। इससे बहस नहीं होनी चाहिए। उदाहरण के लिए, यदि ओपनएआई एजेंट अलग-थलग परीक्षण वातावरण से बाहर निकल गए और जुलाई में हगिंग फेस सिस्टम का उल्लंघन किया, तो यह 1986 में पारित मौजूदा अमेरिकी कंप्यूटर धोखाधड़ी और दुरुपयोग क़ानून के तहत अपराध हो सकता था।
एआई की विशिष्टता कानूनी सिद्धांत में नहीं है, बल्कि प्रक्रिया की गति, पैमाने, अपारदर्शिता और स्वायत्तता में है, और सबसे महत्वपूर्ण बात यह है कि इन मौजूदा कानूनों को लागू करते समय सबूत देना कितना जटिल है।
दक्षिण अफ्रीका में पहले से ही एक व्यापक प्रबंधन प्रणाली मौजूद है जो संविधान, पॉपिया, पाजा, कंपनी अधिनियम और वित्तीय क्षेत्र के कानून जैसे कानूनों पर आधारित कंपनियों, वित्तीय संस्थानों, सरकारी विभागों और व्यक्तिगत जानकारी के प्रसंस्करण को कवर करती है। इस प्रणाली का समर्थन दक्षिण अफ्रीकी रिजर्व बैंक, प्रूडेंशियल सुपरविजन अथॉरिटी (FSCA), सूचना नियामक (FIC) और राष्ट्रीय क्रेडिट नियामक, साथ ही सामान्य कानून द्वारा किया जाता है। रॉयल कोड अब स्पष्ट रूप से नई तकनीकों, जिसमें एआई भी शामिल है, के कार्यान्वयन के परिणामों को मान्यता देता है।
जटिलताएं तब उत्पन्न होती हैं जब मशीनें सिफारिशें देना शुरू कर देती हैं, निर्णयों को प्रभावित करती हैं और स्वतंत्र रूप से कार्य करती हैं। एआई स्वयं जिम्मेदार नहीं हो सकता है। पारंपरिक व्यावसायिक प्रक्रिया में आमतौर पर निर्णय लेने के लिए जिम्मेदार व्यक्ति की पहचान की जा सकती है। हालांकि, एआई के साथ काम करते समय, मॉडल एक सिफारिश दे सकता है, एक अन्य प्रणाली उसकी व्याख्या कर सकती है, एक कर्मचारी उसे मंजूरी दे सकता है, एक एजेंट कार्रवाई शुरू कर सकता है, और एक बाद की प्रणाली उसे निष्पादित कर सकती है। त्रुटि की स्थिति में, 'यह एआई ने किया' वाक्यांश पर्याप्त उत्तर नहीं है। डेवलपर ने तकनीक बनाई होगी, लेकिन संगठन ने इसे लागू करने का निर्णय लिया होगा। सॉफ्टवेयर प्रदाता प्लेटफॉर्म का प्रबंधन कर सकता है, लेकिन संस्थान इसके उपयोग के तरीके के लिए जिम्मेदार रहता है। जिम्मेदारी को स्वचालित समापन के लिए मशीन को हस्तांतरित नहीं किया जा सकता है।
एआई तकनीकी क्षमता और संगठनात्मक अधिकार के बीच अंतर को भी रेखांकित करता है। निदेशक मंडल सीईओ को शक्तियां सौंपता है, जो बदले में निर्धारित सीमाओं के भीतर प्रबंधकों और अधिकारियों को वित्तीय शक्तियां सौंपता है। ये नियम मूल रूप से मानव प्रतिभागियों को ध्यान में रखकर बनाए गए थे।
आइए एआई-आधारित खरीद एजेंट का उदाहरण लें। सिस्टम में आपूर्तिकर्ताओं को खोजने, शर्तों पर बातचीत करने, खरीद आदेश जारी करने, आपूर्तिकर्ताओं के बैंक विवरण बदलने और सीधे ईआरपी सिस्टम के साथ इंटरैक्ट करने की तकनीकी क्षमता हो सकती है। लेकिन इसका मतलब यह नहीं है कि उसके पास ऐसा करने का अधिकार है। एआई इन शक्तियों पर नियंत्रण को जटिल बनाता है, क्योंकि सत्यापन कार्रवाई होने से पहले मिलीसेकंड में स्वचालित रूप से किया जाना चाहिए।
एआई के कई शासन ढांचे महत्वपूर्ण निर्णयों की प्रक्रिया में मानव भागीदारी की मांग करते हैं। हालांकि, केवल व्यक्ति को कार्यप्रवाह में शामिल करना अपने आप में महत्वपूर्ण निरीक्षण पैदा नहीं करता है। यदि कोई कर्मचारी सिफारिश प्राप्त करता है और दो सेकंड में 'अनुमोदित' पर क्लिक करता है, तो व्यक्ति तकनीकी रूप से भाग ले रहा है। लेकिन क्या उसने सिफारिश को समझा? क्या उसने आवश्यक जानकारी देखी? क्या अनुमोदन स्वतंत्र था, या वह बस वही स्वीकार कर रहा था जो सिस्टम ने उसे बताया? एआई निरीक्षण की आवश्यकता नहीं बनाता है - यह पहले से मौजूद है। संगठनों को अभी भी यह साबित करना होगा कि निरीक्षण वास्तविक था, न कि औपचारिक।
सबूत का आधार गायब हो जाता है। एआई से पहले, लेनदेन को आमतौर पर एप्लिकेशन लॉग, ईमेल, वर्कफ़्लो, अनुमोदन और डेटाबेस के आधार पर फोरेंसिक रूप से पुनर्स्थापित किया जा सकता था। एआई का उपयोग करके किया गया कार्य मॉडल संस्करण, डेटा स्रोतों, प्रश्नों (प्रॉम्प्ट्स), निकाली गई जानकारी, बाहरी सेवाओं, जोखिम मूल्यांकन, एजेंटों, मानव हस्तक्षेप और बदलती सिस्टम कॉन्फ़िगरेशन सहित हो सकता है। यह पुनर्स्थापित करना कि मॉडल ने एक निश्चित उत्तर कैसे दिया, एक सामान्य लेनदेन को पुनर्स्थापित करने की तुलना में कहीं अधिक कठिन है। मॉडल संभाव्य रूप से उत्पन्न करते हैं, नियतात्मक रूप से नहीं। यदि कार्रवाई के समय मॉडल संस्करण, प्रॉम्प्ट, निकाला गया संदर्भ और नमूनाकरण सेटिंग्स दर्ज नहीं किए गए थे, तो छह महीने बाद एक ही प्रॉम्प्ट विश्वसनीय रूप से वही उत्तर उत्पन्न नहीं कर पाएगा।
जो कमी है वह है पता लगाने की क्षमता। पता लगाने की क्षमता ही जिम्मेदारी डालने की अनुमति देती है, और यह मौजूदा कानूनों को जारी रखने के लिए आवश्यक सबूतों को संरक्षित करने पर निर्भर करती है। यह विशेष रूप से महत्वपूर्ण हो जाता है क्योंकि एआई सिफारिश करने वाली प्रणालियों से उन प्रणालियों में परिवर्तित हो रहा है जो कार्यों को निष्पादित करती हैं।
स्पष्ट निष्कर्ष यह है कि परिणाम वाले कार्यों को उनके निष्पादन के समय सबूत उत्पन्न करने के लिए मजबूर किया जाना चाहिए - प्राधिकरण, नीति, सिस्टम संदर्भ, नियंत्रण और निष्पादन के परिणाम के बारे में पर्याप्त जानकारी ताकि यह स्थापित किया जा सके कि कार्रवाई को क्या नियंत्रित कर रहा था, और ताकि बाद में इसकी स्वतंत्र रूप से जांच की जा सके। एआई का विनियमन कठिन है, इसे यहां या कहीं और कैसे करना है, इस पर बहुत कम आम सहमति है, और खराब ढंग से तैयार किए गए नियम प्रतिउत्पादक हो सकते हैं। मौजूदा कानूनों को लागू करना और आवश्यकता पड़ने पर घटनाओं को पुनर्स्थापित करने और जिम्मेदारी निर्धारित करने की क्षमता सुनिश्चित करना बेहतर है।
संरक्षित सबूत अपने आप में जिम्मेदार उपयोग के लिए एक शक्तिशाली प्रोत्साहन के रूप में काम करेंगे। कोई भी, और विशेष रूप से कंपनी का निदेशक, जुर्माने, क्षतिपूर्ति मुकदमों या जेल की सजा का सामना नहीं करना चाहता है।