कॉर्पोरेट सिस्टम तक पहुंच के विस्तार के कारण एआई एजेंटों को विशेषाधिकार प्राप्त उपयोगकर्ताओं के रूप में देखा जाना चाहिए

कृत्रिम बुद्धिमत्ता (AI) के स्वायत्त एजेंट और स्वयं AI मॉडल अब अलग-थलग प्रयोगों का हिस्सा नहीं रहे हैं और अब उद्यमों की मुख्य व्यावसायिक प्रक्रियाओं में एकीकृत हो गए हैं। वे डेटाबेस, व्यावसायिक अनुप्रयोगों, क्लाउड प्लेटफॉर्म, आंतरिक एपीआई और तृतीय-पक्ष सेवाओं से जुड़ते हैं, जो व्यवसाय के लिए वास्तविक लाभ लाते हैं।

हालांकि, यह एक गंभीर सुरक्षा समस्या पैदा करता है: क्या होगा यदि AI प्रणाली को संगठन में आवश्यक से अधिक मात्रा में जानकारी तक पहुंच प्राप्त हो जाती है? जोखिम इस बात में नहीं है कि मॉडल गलत उत्तर देगा, बल्कि इस बात में है कि AI एप्लिकेशन, एजेंट या कनेक्टेड टूल को उनके एक्सेस का उपयोग करके गोपनीय सिस्टम तक पहुंचने, डेटा उजागर करने या अनपेक्षित क्रियाएं शुरू करने के लिए समझौता किया जा सकता है, हेरफेर किया जा सकता है या गलत तरीके से कॉन्फ़िगर किया जा सकता है।

जैसे-जैसे AI अधिक स्वायत्त और सक्षम होता जाता है, कंपनियों को न केवल मॉडलों की कार्यक्षमता पर विचार करना चाहिए, बल्कि उन स्थानों पर भी विचार करना चाहिए जिनसे वे जुड़ सकते हैं।

एआई एजेंट विशेषाधिकार प्राप्त कॉर्पोरेट एप्लिकेशन कैसे बन रहे हैं

कई कंपनियाँ ऐसे AI सेवाओं का उपयोग करती हैं जो महत्वपूर्ण बुनियादी ढांचे और संवेदनशील जानकारी के साथ इंटरैक्ट करती हैं। ये सिस्टम ग्राहक रिकॉर्ड निकाल सकते हैं, वित्तीय डेटाबेस का अनुरोध कर सकते हैं, सॉफ़्टवेयर कोड उत्पन्न कर सकते हैं, वर्कफ़्लो शुरू कर सकते हैं और बाहरी सेवाओं को कॉल कर सकते हैं। वास्तव में, यह उन्हें विशेषाधिकार प्राप्त अनुप्रयोगों की एक और श्रेणी बनाता है।

पारंपरिक अनुप्रयोगों के विपरीत, जिनके पास स्पष्ट रूप से परिभाषित नेटवर्क आवश्यकताएँ, स्पष्ट स्वामित्व और अनुमोदन प्रक्रियाएँ होती हैं, AI वातावरण बहुत तेज़ी से विकसित हो रहे हैं। नए उपकरण, प्लगइन्स और एकीकरण कुछ ही दिनों में दिखाई देते हैं, अक्सर आवश्यक कनेक्टिविटी की पूरी समझ के बिना। इसका परिणाम अत्यधिक व्यापक पहुंच, असीमित आउटबाउंड संचार और AI वर्कलोड और संवेदनशील व्यावसायिक प्रणालियों के बीच अनावश्यक एक्सपोजर में होता है।

यदि AI एजेंट से समझौता किया जाता है - चाहे प्रॉम्प्ट इंजेक्शन, दुर्भावनापूर्ण सामग्री या कमजोर तृतीय-पक्ष एकीकरण के माध्यम से हो - तो क्षति की सीमा इस अतिरेक कनेक्शन स्तर द्वारा निर्धारित होती है। समस्या यह नहीं है कि मॉडल नेटवर्क से बाहर चला गया है; समस्या यह है कि उसे शुरू में उन सिस्टमों तक पहुंच प्रदान की गई थी जिनसे उसे कभी संपर्क करने की अनुमति नहीं होनी चाहिए थी।

कनेक्टिविटी प्रबंधन के माध्यम से जोखिम नियंत्रण

एक सुरक्षित AI रणनीति में कनेक्टिविटी प्रबंधन को लागू करना शामिल है: AI वर्कलोड के साथ संवाद कर सकने वाले सभी सिस्टमों की स्पष्ट समझ होनी चाहिए, जिसमें आंतरिक एप्लिकेशन, डेटाबेस, क्लाउड सेवाएँ, विकास प्लेटफ़ॉर्म और तृतीय-पक्ष एपीआई शामिल हैं। प्रत्येक ऐसे कनेक्शन की जांच एक सरल प्रश्न से की जानी चाहिए: क्या इसकी आवश्यकता है? - और इसे इसके इच्छित व्यावसायिक उद्देश्य तक सीमित किया जाना चाहिए।

इसका तात्पर्य है कि सुरक्षा और बुनियादी ढांचा टीमों को AI एप्लिकेशन निर्भरताओं का मानचित्रण करना चाहिए, प्रत्येक प्रस्तावित कनेक्शन के जोखिम का मूल्यांकन करना चाहिए और न्यूनतम विशेषाधिकार के सिद्धांत को लागू करना सुनिश्चित करना चाहिए। AI सेवा को पूरे आंतरिक नेटवर्क और इंटरनेट तक पहुंचने देने के बजाय, संगठन इसे केवल उन विशिष्ट अनुप्रयोगों, सेवाओं, पोर्टों और एंडपॉइंट्स तक ही सीमित कर सकते हैं जिनकी उसे आवश्यकता है। यदि वर्कलोड अप्रत्याशित व्यवहार करता है या समझौता किया जाता है, तो क्षति स्थानीयकृत रहती है।

तृतीय-पक्ष संगठनों के साथ कनेक्शन की सुरक्षा

खतरा यह नहीं है कि AI एजेंट किसी तृतीय-पक्ष स्रोत या प्लगइन के माध्यम से दुर्भावनापूर्ण निर्देशों का सामना कर सकता है। खतरा यह है कि ये निर्देश एजेंट तक पहुंच सकते हैं जिसे पहले ही शक्तिशाली उपकरण, क्रेडेंशियल और कॉर्पोरेट सिस्टम तक पहुंच प्रदान की जा चुकी है।

ओपन वर्ल्डवाइड एप्लीकेशन सिक्योरिटी प्रोजेक्ट (OWASP) 'अत्यधिक एजेंसी' को बड़े भाषा मॉडल पर निर्मित अनुप्रयोगों में प्रमुख जोखिमों में से एक के रूप में वर्गीकृत करता है, और इसे तीन मुख्य कारणों से जोड़ता है: अनावश्यक कार्यक्षमता, अनावश्यक अनुमतियाँ और अनावश्यक स्वायत्तता।

अधिकांश AI कार्यान्वयन बाहरी मॉडल विक्रेताओं, सॉफ्टवेयर एज़ ए सर्विस प्लेटफॉर्म, प्लगइन्स, डेटा स्रोतों और एपीआई पर निर्भर करते हैं। ये निर्भरताएँ कार्यक्षमता प्रदान करती हैं, लेकिन हमले की सतह का भी विस्तार करती हैं।

केवल मॉडल की सुरक्षा पर्याप्त नहीं है। संगठनों को उसके चारों ओर पूरे वातावरण का प्रबंधन करना चाहिए - उसकी पहचान, अनुमतियाँ, उपकरण, एपीआई, एप्लिकेशन और नेटवर्क कनेक्शन। AI एजेंट को केवल वही एक्सेस करने में सक्षम होना चाहिए जो उसके काम को करने के लिए आवश्यक है, और सुरक्षा टीमों को प्रत्येक ऐसे कनेक्शन को देखने, उचित ठहराने और लगातार सत्यापित करने में सक्षम होना चाहिए। AI अनुप्रयोगों के कार्य करने के तरीके को बदलता है, लेकिन यह न्यूनतम विशेषाधिकार के सिद्धांत को नहीं बदलता है; यह केवल इस सिद्धांत की अनदेखी करने की कीमत बढ़ाता है।