कार्य पूरा करने के लिए एआई एजेंटों की क्षमता प्रमुख ऑनलाइन सेवाओं के साथ एकीकरण चुनौतियों का सामना करती है
और पढ़ें
Egypt Independent
www.egyptindependent.com

कार्य पूरा करने के लिए एआई एजेंटों की क्षमता प्रमुख ऑनलाइन सेवाओं के साथ एकीकरण चुनौतियों का सामना करती है

एआई एजेंट उपयोगकर्ता के कार्यों की एक विस्तृत श्रृंखला को संभालने का वादा करते हैं, हालांकि उनका कार्यान्वयन लोकप्रिय ऐप्स और सेवाओं द्वारा आवश्यक पहुंच प्रदान करने की तत्परता पर निर्भर करता है। ये एजेंट केवल सवालों के जवाब देने या चित्र बनाने से कहीं आगे जाते हैं; वे इंटरनेट पर बहु-चरणीय कार्य कर सकते हैं, जैसे कि कीमतों की तुलना करना, खरीदारी करना, बुकिंग करना और फॉर्म भरना, बशर्ते संबंधित कंपनियों द्वारा अनुमति दी जाए।

यह संभावित बदलाव इंटरनेट सेवाओं के क्षेत्र में नई प्रतिस्पर्धा को जन्म दे सकता है। उदाहरण के लिए, अमेज़ॅन ने हाल ही में मेटा के एआई एजेंट म्यूज (Muse) के लिए अपने स्टोर तक पहुंच को अवरुद्ध कर दिया, जिसे कुछ विशेषज्ञों का मानना है कि यह ऑनलाइन व्यवसाय के लिए दुविधा का संकेत देता है।

यदि उपयोगकर्ता दैनिक कार्यों में सक्रिय रूप से एआई एजेंटों का उपयोग करना शुरू कर देते हैं, तो कंपनियों को एक महत्वपूर्ण निर्णय लेना होगा: या तो मेटा जैसी संरचनाओं के साथ सहयोग करना, जिससे उनके प्लेटफॉर्म अप्रासंगिक हो सकते हैं, या लोगों और सेवाओं के बीच भविष्य की बातचीत बनने वाली चीज़ के माध्यम से अरबों ग्राहकों तक पहुंचने के अवसर को खो देना।

अपने एजेंट म्यूज के लिए नए अपडेट की घोषणा के बाद, एयरबीएनबी, एक्सपीडिया और ट्रिप एडवाइजर जैसी कंपनियों के शेयर पिछले सप्ताह लगभग 5% गिर गए थे।

एआई एजेंटों की अवधारणा नई नहीं है; मेटा, ओपनएआई, गूगल, एप्पल और अमेज़ॅन कई वर्षों से इस दिशा में काम कर रहे हैं, धीरे-धीरे एजेंटों के काम के समान कार्यक्षमता लागू कर रहे हैं। हालांकि, म्यूज ने जल्दी से लोकप्रियता हासिल की, 8 सितंबर को डेब्यू करने के केवल 10 दिनों के भीतर एप्पल ऐप स्टोर में मुफ्त ऐप्स की सूची में पहले स्थान पर पहुंच गया। एजेंट की सफलता काफी हद तक मेटा की व्यापक उपस्थिति के कारण है, जो इंस्टाग्राम, फेसबुक और व्हाट्सएप का मालिक है, साथ ही एप्लिकेशन का अपेक्षाकृत सरल इंटरफ़ेस भी है।

अंतर्राष्ट्रीय प्रौद्योगिकी बाजार अनुसंधान निगम के विश्लेषक फ्रांसिस्को हेरोनिमो के अनुसार, मेटा ने अन्य तकनीकी दिग्गजों की तुलना में म्यूज की क्षमताओं को उपभोक्ताओं के सामने सबसे अच्छी तरह से प्रदर्शित किया है। उन्होंने टिप्पणी की: 'अन्य लोगों ने खरीदारी के लिए एजेंटों के उपयोग के बारे में मेटा की तरह जोर नहीं दिया, और मुझे लगता है कि यही मुख्य अंतर है।'

मेटा ने अपने सेवाओं को म्यूज ऐप में एकीकृत करने के लिए वॉलमार्ट, गेमस्टॉप, सेफोरा, एक्सपीडिया, ओपनटेबल और शॉपिफाई के साथ साझेदारी की है। फिर भी, ई-कॉमर्स दिग्गज अमेज़ॅन ने मेटा के साथ सहयोग करने से इनकार कर दिया। अमेज़ॅन ने एजेंट को ब्लॉक कर दिया, यह कहते हुए कि म्यूज के माध्यम से उसके स्टोर की उपलब्धता के संबंध में कोई सूचना या विकल्प नहीं था। कंपनी ने डेटा और अमेज़ॅन खाते की क्रेडेंशियल्स के प्रसंस्करण के बारे में चिंताएं भी व्यक्त कीं, और यह भी बताया कि एजेंट व्यक्तिगत अमेज़ॅन सिफारिशें प्रदान नहीं करते हैं।

सीएनएन को संबोधित अमेज़ॅन के बयान में कहा गया था: 'हम मानते हैं कि यह पूरी तरह से स्पष्ट है कि तृतीय-पक्ष एप्लिकेशन जो अन्य कंपनियों की ओर से ग्राहकों के लिए खरीदारी की पेशकश करते हैं, उन्हें खुले तौर पर काम करना चाहिए और सेवा प्रदाताओं के निर्णयों का सम्मान करना चाहिए कि क्या वे भाग लेंगे या नहीं।' इसी तरह, ऑनलाइन रेस्तरां आरक्षण प्लेटफॉर्म रेज़ी ने सीएनएन को सूचित किया कि वह 'वर्तमान में अनधिकृत तृतीय-पक्ष बॉट या एजेंटों' को अपनी सेवाओं तक पहुंचने की अनुमति नहीं देता है। इस महीने की शुरुआत में सैकड़ों टेबल बुक करने के प्रयास के बाद, प्लेटफ़ॉर्म ने उपयोगकर्ता के खाते को ब्लॉक कर दिया, जिसका सहायक इंस्टिंक्ट नामक एआई एजेंट था।

रेज़ी ने चेतावनी दी: 'अनधिकृत स्वचालित गतिविधि प्लेटफॉर्म के लिए जोखिम पैदा कर सकती है और आगंतुकों के लिए बुकिंग के निष्पक्ष अनुभव को बाधित कर सकती है।' हालांकि, सीएनएन ने म्यूज के माध्यम से एक टेबल बुक करने में कामयाबी हासिल की, जिसमें फोन नंबर और पुष्टिकरण कोड जैसी क्रेडेंशियल प्रदान किए गए थे। रेज़ी चैटजीपीटी और क्लॉड के साथ एकीकृत होता है और заявил है कि वह एआई एजेंटों के विकास के साथ 'क्षमताओं का मूल्यांकन करना जारी रखेगा'।

हालांकि अमेज़ॅन एक अपवाद हो सकता है, कुछ विशेषज्ञ मानते हैं कि एआई एजेंटों में वास्तविक जोखिम हैं जो कई ऑनलाइन सेवा प्रदाताओं को एजेंटों को उनके प्लेटफॉर्म का उपयोग करने की अनुमति देने से पहले झिझकने पर मजबूर कर सकते हैं। सबसे पहले, यदि कार्य मुख्य रूप से एआई एजेंट ऐप्स के माध्यम से हल किए जाते हैं तो वेब ट्रैफ़िक में कमी आने की संभावना है। इसके अलावा, ब्रांड ग्राहकों की खरीद की आदतों का अध्ययन करने या इन-ऐप प्रचार या उत्पाद सिफारिशों के माध्यम से उपयोगकर्ताओं को अतिरिक्त खरीदारी के लिए आकर्षित करने की क्षमता खो सकते हैं।

ब्लूमबर्ग इंटेलिजेंस के वरिष्ठ उद्योग विश्लेषक मानदीप सिंह ने टिप्पणी की: 'आप अपनी ज़रूरत की चीज़ खोजने के लिए अमेज़ॅन ब्राउज़ कर रहे हैं, लेकिन फिर आप अन्य चीजें भी देखते हैं जिन्हें आप जानते हैं कि आप खरीद सकते हैं।'

इसके अलावा, मेटा के सीईओ मार्क ज़करबर्ग ने बुधवार को बताया कि कंपनी अंततः म्यूज के माध्यम से किए गए लेनदेन पर शुल्क लेने की योजना बना रही है। इसका मतलब है कि अन्य कंपनियां अपनी बिक्री का कुछ हिस्सा खो सकती हैं।

प्रभाव न केवल स्टोरों और बुकिंग ऐप्स को प्रभावित कर सकता है। एआई एजेंट शोध की आवश्यकता वाले कार्यों में अच्छा प्रदर्शन करते हैं, जैसे बीमा पॉलिसियों या मोबाइल ऑपरेटर योजनाओं की तुलना करना। यह संभावित रूप से उपयोगकर्ताओं को बेहतर शर्तों के लिए प्लान बदलने में मदद कर सकता है।

हालांकि, संभावित लाभ भी बहुत बड़ा हो सकता है। मार्केट इंटेलिजेंस फर्म सेंसर टॉवर के आंकड़ों के अनुसार, म्यूज को पहले ही 2.5 मिलियन से अधिक बार डाउनलोड किया जा चुका है, जो व्यवसायों को दुनिया भर के लाखों लोगों के बीच दृश्यता प्रदान करता है। यह शॉपिफाई के साथ काम करने वाले छोटे और मध्यम आकार के ब्रांडों के लिए म्यूज को विशेष रूप से आकर्षक बना सकता है।

एक्सपीडिया के एंटरप्राइज और एआई गठबंधन के उपाध्यक्ष कैथरीन हाइन्ज़ ने सीएनएन को टिप्पणी की कि यह एक्सपीडिया यात्रा प्लेटफॉर्म के लिए आकर्षण का हिस्सा था, क्योंकि यह 'वहाँ मौजूद रहना चाहता है जहाँ यात्री खोज करते हैं'। उन्होंने आगे कहा कि एक्सपीडिया के लगभग दो तिहाई ट्रैफिक उसकी अपनी प्लेटफार्मों के माध्यम से आता है।

कुछ इसे अपने व्यवसाय के भविष्य को सुरक्षित करने की दिशा में एक कदम के रूप में देख सकते हैं। इंटरनेशनल डेटा कॉर्पोरेशन के हेरोनिमो का मानना है: 'मुझे लगता है कि लंबी अवधि में हम यही देखेंगे: जब हम खरीदारी करते हैं तो एआई प्लेटफॉर्म हममें से अधिकांश के लिए परत और मुख्य इंटरफ़ेस बन जाएंगे।'

समान कहानियाँ

मेटा ने म्यूज़ एआई असिस्टेंट लॉन्च किया, जिसने कई डाउनलोड हासिल किए, लेकिन अमेज़ॅन के साथ विवाद पैदा किया
और पढ़ें
olhardigital.com.br

मेटा ने म्यूज़ एआई असिस्टेंट लॉन्च किया, जिसने कई डाउनलोड हासिल किए, लेकिन अमेज़ॅन के साथ विवाद पैदा किया

मेटा ने म्यूज़ पेश किया है, जो एक नया व्यक्तिगत आर्टिफिशियल इंटेलिजेंस एजेंट है जिसने संयुक्त राज्य अमेरिका में तेजी से स्वीकृति प्राप्त की है। एप्लिकेशन ऐप स्टोर पर शीर्ष पर पहुंच गया और कंपनी के स्टॉक प्रदर्शन में सकारात्मक योगदान दिया, हालांकि इसे सुरक्षा, गोपनीयता और तीसरे पक्ष की प्रणालियों तक पहुंच से संबंधित आलोचनाओं का सामना करना पड़ रहा है।

अमेरिकी बाजार में लॉन्च होने के कुछ ही दिनों बाद, सेंसर टावर द्वारा प्रदान किए गए आंकड़ों के अनुसार, म्यूज़ ने 2.5 मिलियन इंस्टॉलेशन का आंकड़ा पार कर लिया। इस सफलता के जवाब में, मेटा के शेयरों में सोमवार को 11% की वृद्धि दर्ज की गई। ट्रुइस्ट सिक्योरिटीज का अनुमान है कि यह सुविधा 2030 तक कंपनी के राजस्व में 28.5 बिलियन अमेरिकी डॉलर (लगभग 146.4 बिलियन ब्राज़ीलियाई रियल) जोड़ सकती है।

अपने कामकाज को अनुकूलित करने के लिए, म्यूज़ ईमेल, कैलेंडर और संदेशों तक पहुंचने की क्षमता रखता है, जिसका अर्थ है कि उपयोगकर्ता को एजेंट में बड़ी मात्रा में व्यक्तिगत डेटा जमा करना होगा। ओपेनहाइमर एंड कंपनी द्वारा किए गए एक सर्वेक्षण ने इस झिझक को दर्शाया, जिसमें बताया गया कि केवल 8% अमेरिकी उपभोक्ताओं ने मेटा के साथ अपने पासवर्ड साझा करने में विश्वास व्यक्त किया, जबकि गूगल के मामले में यह 30% था।

मेटा आश्वासन देती है कि म्यूज़ के विकास में सुरक्षा को प्राथमिकता दी गई थी, यह कहते हुए कि प्रत्येक एजेंट एक समर्पित और सुरक्षित कंप्यूटर पर संचालित होता है। लॉन्च से पहले, कंपनी के एआई प्रमुख एलेक्जेंडर वांग ने उल्लेख किया था कि मुख्य चिंता व्यक्तिगत डेटा लीक या महत्वपूर्ण ईमेल के आकस्मिक विलोपन को रोकना था।

फिर भी, सुरक्षा संबंधी चिंताएं बनी हुई हैं। ट्रुइस्ट के विश्लेषक यूसुफ स्क्वाली ने चेतावनी दी कि एक बड़े पैमाने पर घटना जो क्रेडेंशियल्स या क्रेडिट कार्ड की जानकारी से समझौता करती है, वह न केवल म्यूज़, बल्कि पूरे एआई एजेंट क्षेत्र में विश्वास को कमजोर कर सकती है।

म्यूज़ के लिए पहली महत्वपूर्ण चुनौती ई-कॉमर्स सेगमेंट में सामने आई, जब अमेज़ॅन ने अपने वेबसाइट पर एजेंट को ब्लॉक कर दिया, जिससे उसे उपयोगकर्ताओं की ओर से ब्राउज़ करने या खरीदारी करने से रोका गया। अमेज़ॅन ने कहा कि उसे ऐसे एक्सेस के बारे में कोई पूर्व सूचना नहीं मिली थी और न ही उसने इस कार्रवाई को अधिकृत किया था। अमेज़ॅन के एक प्रवक्ता ने इस बात पर जोर दिया कि ग्राहकों की ओर से खरीदारी करने वाले बाहरी एप्लिकेशन को पारदर्शी तरीके से काम करना चाहिए और सेवाओं द्वारा स्थापित एक्सेस अनुमति दिशानिर्देशों का सम्मान करना चाहिए।

इस अवरोध के पीछे व्यवसाय मॉडल से संबंधित एक चिंता भी है। यदि एआई एजेंट व्यक्तियों के स्थान पर खरीदारी करना शुरू कर देते हैं, तो उपयोगकर्ताओं के लिए विज्ञापन प्रदर्शित करने वाले पेजों पर कम एक्सपोजर हो सकता है। कई विश्लेषकों के लिए, इससे बड़ी इंटरनेट प्लेटफार्मों से प्रतिरोध उत्पन्न हो सकता है, खासकर वे जिनकी आय विज्ञापन पर निर्भर करती है।

दूसरी ओर, मेटा ने शॉपिफाई, इंस्टाकार्ट और डिक'स स्पोर्टिंग गुड्स के साथ साझेदारी होने का संकेत दिया है। म्यूज़ की प्रगति ने अन्य क्षेत्रों में भी प्रतिक्रियाएं उत्पन्न कीं: संपत्ति प्रबंधकों, दलालों और बैंकों के शेयरों में गिरावट देखी गई, जिसमें चार्ल्स श्वाब 6% से अधिक की गिरावट दर्ज की। बुकिंग होल्डिंग्स और ऑलस्टेट भी प्रभावित हुए।

मेटा के पास एक महत्वपूर्ण लाभ है, क्योंकि फेसबुक और इंस्टाग्राम वितरण की एक विशाल बुनियादी ढांचा प्रदान करते हैं, इसके अलावा उनके सेवाओं ने लाखों उपयोगकर्ताओं का डेटा जमा किया है। वर्तमान में, एकमात्र तुलनीय उत्पाद स्टार्टअप इंस्टिंक्ट का एजेंट है, जो केवल आमंत्रण के माध्यम से उपलब्ध है।

हालांकि, यह परिदृश्य जल्द ही बदलने वाला है। विश्लेषकों का अनुमान है कि ओपनएआई आने वाले हफ्तों में उपभोक्ता-केंद्रित एआई एजेंट की घोषणा करेगा। गूगल को भी एक संभावित प्रतियोगी के रूप में उद्धृत किया गया है, और एप्पल बाद में इस बाजार में प्रवेश कर सकता है।

प्रतिस्पर्धा के इस तीव्र माहौल में, अग्रणी होना निर्णायक हो सकता है। वेल्स फार्गो के विश्लेषक केन गॉवरेलस्की के अनुसार, इन सहायकों की प्रभावशीलता तब बढ़ती है जब उपभोक्ता उनसे परिचित होते हैं और उनकी कार्यक्षमताओं को निर्देशित करते हैं। इसके अलावा, म्यूज़ को उच्च कम्प्यूटेशनल क्षमता की आवश्यकता होती है, क्योंकि प्रत्येक एजेंट अपने स्वयं के वर्चुअल कंप्यूटर पर चलता है, जो विवाद में एक कारक है; हालांकि, वॉल स्ट्रीट जर्नल द्वारा उद्धृत विश्लेषकों का कहना है कि गूगल के पास एक समान समाधान विकसित करने के लिए पर्याप्त बुनियादी ढांचा है।

अब तक, म्यूज़ के त्वरित कार्यान्वयन ने मेटा को इस नई प्रतिस्पर्धा के केंद्र में ला दिया है। हालांकि, एजेंट की सफलता केवल उपयोगकर्ताओं की संख्या पर निर्भर नहीं करेगी, बल्कि इस बात पर भी निर्भर करेगी कि प्लेटफॉर्म अपने ग्राहकों की ओर से कृत्रिम बुद्धिमत्ता को कार्य करने की अनुमति देने के लिए कितने इच्छुक हैं।

कॉर्पोरेट सिस्टम तक पहुंच के विस्तार के कारण एआई एजेंटों को विशेषाधिकार प्राप्त उपयोगकर्ताओं के रूप में देखा जाना चाहिए
और पढ़ें
techcentral.co.za

कॉर्पोरेट सिस्टम तक पहुंच के विस्तार के कारण एआई एजेंटों को विशेषाधिकार प्राप्त उपयोगकर्ताओं के रूप में देखा जाना चाहिए

कृत्रिम बुद्धिमत्ता (AI) के स्वायत्त एजेंट और स्वयं AI मॉडल अब अलग-थलग प्रयोगों का हिस्सा नहीं रहे हैं और अब उद्यमों की मुख्य व्यावसायिक प्रक्रियाओं में एकीकृत हो गए हैं। वे डेटाबेस, व्यावसायिक अनुप्रयोगों, क्लाउड प्लेटफॉर्म, आंतरिक एपीआई और तृतीय-पक्ष सेवाओं से जुड़ते हैं, जो व्यवसाय के लिए वास्तविक लाभ लाते हैं।

हालांकि, यह एक गंभीर सुरक्षा समस्या पैदा करता है: क्या होगा यदि AI प्रणाली को संगठन में आवश्यक से अधिक मात्रा में जानकारी तक पहुंच प्राप्त हो जाती है? जोखिम इस बात में नहीं है कि मॉडल गलत उत्तर देगा, बल्कि इस बात में है कि AI एप्लिकेशन, एजेंट या कनेक्टेड टूल को उनके एक्सेस का उपयोग करके गोपनीय सिस्टम तक पहुंचने, डेटा उजागर करने या अनपेक्षित क्रियाएं शुरू करने के लिए समझौता किया जा सकता है, हेरफेर किया जा सकता है या गलत तरीके से कॉन्फ़िगर किया जा सकता है।

जैसे-जैसे AI अधिक स्वायत्त और सक्षम होता जाता है, कंपनियों को न केवल मॉडलों की कार्यक्षमता पर विचार करना चाहिए, बल्कि उन स्थानों पर भी विचार करना चाहिए जिनसे वे जुड़ सकते हैं।

एआई एजेंट विशेषाधिकार प्राप्त कॉर्पोरेट एप्लिकेशन कैसे बन रहे हैं

कई कंपनियाँ ऐसे AI सेवाओं का उपयोग करती हैं जो महत्वपूर्ण बुनियादी ढांचे और संवेदनशील जानकारी के साथ इंटरैक्ट करती हैं। ये सिस्टम ग्राहक रिकॉर्ड निकाल सकते हैं, वित्तीय डेटाबेस का अनुरोध कर सकते हैं, सॉफ़्टवेयर कोड उत्पन्न कर सकते हैं, वर्कफ़्लो शुरू कर सकते हैं और बाहरी सेवाओं को कॉल कर सकते हैं। वास्तव में, यह उन्हें विशेषाधिकार प्राप्त अनुप्रयोगों की एक और श्रेणी बनाता है।

पारंपरिक अनुप्रयोगों के विपरीत, जिनके पास स्पष्ट रूप से परिभाषित नेटवर्क आवश्यकताएँ, स्पष्ट स्वामित्व और अनुमोदन प्रक्रियाएँ होती हैं, AI वातावरण बहुत तेज़ी से विकसित हो रहे हैं। नए उपकरण, प्लगइन्स और एकीकरण कुछ ही दिनों में दिखाई देते हैं, अक्सर आवश्यक कनेक्टिविटी की पूरी समझ के बिना। इसका परिणाम अत्यधिक व्यापक पहुंच, असीमित आउटबाउंड संचार और AI वर्कलोड और संवेदनशील व्यावसायिक प्रणालियों के बीच अनावश्यक एक्सपोजर में होता है।

यदि AI एजेंट से समझौता किया जाता है - चाहे प्रॉम्प्ट इंजेक्शन, दुर्भावनापूर्ण सामग्री या कमजोर तृतीय-पक्ष एकीकरण के माध्यम से हो - तो क्षति की सीमा इस अतिरेक कनेक्शन स्तर द्वारा निर्धारित होती है। समस्या यह नहीं है कि मॉडल नेटवर्क से बाहर चला गया है; समस्या यह है कि उसे शुरू में उन सिस्टमों तक पहुंच प्रदान की गई थी जिनसे उसे कभी संपर्क करने की अनुमति नहीं होनी चाहिए थी।

कनेक्टिविटी प्रबंधन के माध्यम से जोखिम नियंत्रण

एक सुरक्षित AI रणनीति में कनेक्टिविटी प्रबंधन को लागू करना शामिल है: AI वर्कलोड के साथ संवाद कर सकने वाले सभी सिस्टमों की स्पष्ट समझ होनी चाहिए, जिसमें आंतरिक एप्लिकेशन, डेटाबेस, क्लाउड सेवाएँ, विकास प्लेटफ़ॉर्म और तृतीय-पक्ष एपीआई शामिल हैं। प्रत्येक ऐसे कनेक्शन की जांच एक सरल प्रश्न से की जानी चाहिए: क्या इसकी आवश्यकता है? - और इसे इसके इच्छित व्यावसायिक उद्देश्य तक सीमित किया जाना चाहिए।

इसका तात्पर्य है कि सुरक्षा और बुनियादी ढांचा टीमों को AI एप्लिकेशन निर्भरताओं का मानचित्रण करना चाहिए, प्रत्येक प्रस्तावित कनेक्शन के जोखिम का मूल्यांकन करना चाहिए और न्यूनतम विशेषाधिकार के सिद्धांत को लागू करना सुनिश्चित करना चाहिए। AI सेवा को पूरे आंतरिक नेटवर्क और इंटरनेट तक पहुंचने देने के बजाय, संगठन इसे केवल उन विशिष्ट अनुप्रयोगों, सेवाओं, पोर्टों और एंडपॉइंट्स तक ही सीमित कर सकते हैं जिनकी उसे आवश्यकता है। यदि वर्कलोड अप्रत्याशित व्यवहार करता है या समझौता किया जाता है, तो क्षति स्थानीयकृत रहती है।

तृतीय-पक्ष संगठनों के साथ कनेक्शन की सुरक्षा

खतरा यह नहीं है कि AI एजेंट किसी तृतीय-पक्ष स्रोत या प्लगइन के माध्यम से दुर्भावनापूर्ण निर्देशों का सामना कर सकता है। खतरा यह है कि ये निर्देश एजेंट तक पहुंच सकते हैं जिसे पहले ही शक्तिशाली उपकरण, क्रेडेंशियल और कॉर्पोरेट सिस्टम तक पहुंच प्रदान की जा चुकी है।

ओपन वर्ल्डवाइड एप्लीकेशन सिक्योरिटी प्रोजेक्ट (OWASP) 'अत्यधिक एजेंसी' को बड़े भाषा मॉडल पर निर्मित अनुप्रयोगों में प्रमुख जोखिमों में से एक के रूप में वर्गीकृत करता है, और इसे तीन मुख्य कारणों से जोड़ता है: अनावश्यक कार्यक्षमता, अनावश्यक अनुमतियाँ और अनावश्यक स्वायत्तता।

अधिकांश AI कार्यान्वयन बाहरी मॉडल विक्रेताओं, सॉफ्टवेयर एज़ ए सर्विस प्लेटफॉर्म, प्लगइन्स, डेटा स्रोतों और एपीआई पर निर्भर करते हैं। ये निर्भरताएँ कार्यक्षमता प्रदान करती हैं, लेकिन हमले की सतह का भी विस्तार करती हैं।

केवल मॉडल की सुरक्षा पर्याप्त नहीं है। संगठनों को उसके चारों ओर पूरे वातावरण का प्रबंधन करना चाहिए - उसकी पहचान, अनुमतियाँ, उपकरण, एपीआई, एप्लिकेशन और नेटवर्क कनेक्शन। AI एजेंट को केवल वही एक्सेस करने में सक्षम होना चाहिए जो उसके काम को करने के लिए आवश्यक है, और सुरक्षा टीमों को प्रत्येक ऐसे कनेक्शन को देखने, उचित ठहराने और लगातार सत्यापित करने में सक्षम होना चाहिए। AI अनुप्रयोगों के कार्य करने के तरीके को बदलता है, लेकिन यह न्यूनतम विशेषाधिकार के सिद्धांत को नहीं बदलता है; यह केवल इस सिद्धांत की अनदेखी करने की कीमत बढ़ाता है।

लोकप्रिय