नेटईज़ यिडुन ने एआई एजेंटों की गतिविधियों को नियंत्रित करने के लिए वुझेन में एजेंट गार्ड प्रस्तुत किया
और पढ़ें
Pandaily
pandaily.com

नेटईज़ यिडुन ने एआई एजेंटों की गतिविधियों को नियंत्रित करने के लिए वुझेन में एजेंट गार्ड प्रस्तुत किया

सिना टेक और आईटी होम के अनुसार, नेटईज़ के कॉर्पोरेट सेवाओं में सामग्री और जोखिम सुरक्षा प्रभाग, नेटईज़ यिडुन ने 3 नवंबर 2026 को वुझेन में वर्ल्ड इंटरनेट कॉन्फ्रेंस लाइट ऑफ इंटरनेट एक्सपो में अपने नेटिव एआई उत्पाद सिस्टम का अनावरण किया।

कंपनी का दावा है कि सुरक्षा सुनिश्चित करना इस बात पर ध्यान केंद्रित करने से हटकर होना चाहिए कि एआई क्या कहता है, बल्कि इस बात पर होना चाहिए कि वह क्या करता है, क्योंकि एजेंट कॉर्पोरेट सिस्टम, टूल और ज्ञानकोष तक पहुंच प्राप्त करते हैं।

नेटईज़ के कॉर्पोरेट सेवाओं के उप महाप्रबंधक और यिडुन के प्रमुख, झू हाओसी ने एक द्विदिश मॉडल प्रस्तुत किया: सुरक्षा कार्य को बढ़ाने के लिए एआई का उपयोग करना और निर्धारित सीमाओं के भीतर एआई के कामकाज को सीमित करने के लिए सुरक्षा उपकरणों का अनुप्रयोग। उन्होंने उल्लेख किया कि वर्तमान जोखिमों में एआई सामग्री निर्माण, डीपफेक, स्वचालित धोखाधड़ी, मॉडल प्रतिबंधों को दरकिनार करना (जेलब्रेक्स), गोपनीय डेटा लीक और एजेंटों द्वारा उनके अनुमतियों से परे कार्रवाई करना शामिल है।

उत्पाद प्रणाली तीन स्तरों से बनी है। पहला स्तर एआई सामग्री और डेटा सुरक्षा को कवर करता है, जिसमें एआई सामग्री का विश्लेषण और मॉडरेशन, साथ ही मॉडरेशन एजेंट CMA भी शामिल है। दूसरा स्तर इंटरैक्शन और पहचान सुरक्षा को समर्पित है और इसमें व्यावसायिक जोखिम नियंत्रण, डिवाइस फिंगरप्रिंटिंग, व्यवहारिक कैप्चा और डीपगार्ड द्वारा फेस स्पूफिंग से सुरक्षा शामिल है। तीसरा स्तर मॉडल और एजेंट सुरक्षा के लिए जिम्मेदार है, जो बड़े मॉडल सुरक्षा तंत्र, एजेंट सुरक्षा प्लेटफॉर्म और एजेंट आपूर्ति श्रृंखला सत्यापन प्रदान करता है।

एक्सपो में सिस्टम को पहले संस्करण का प्रमाणन प्राप्त हुआ। एजेंट स्तर पर सुरक्षा तंत्र मॉडल के इनपुट और आउटपुट डेटा को फ़िल्टर करते हैं, जबकि एजेंट गार्ड उपयोगकर्ता के इरादों के अनुरूप एजेंट की कार्रवाइयों की जांच करता है, अनुमतियों का अनुपालन सुनिश्चित करता है, जोखिम भरे टूल कॉल्स को चिह्नित करता है और व्यवहार को ब्लॉक करता है।

एजेंट सुरक्षा प्लेटफॉर्म उपयोग किए जा रहे एआई परिसंपत्तियों का पता लगाता है, स्किल और MCP आपूर्ति श्रृंखलाओं को स्कैन करता है, और गोपनीय डेटा लीक से बचाता है। यह शैडो एआई के खिलाफ निर्देशित है - वे उपकरण जिनका उपयोग कर्मचारी आईटी विभाग की जानकारी के बिना करते हैं, जो ब्लॉकिंग, सत्यापन, अलर्टिंग और डेटा मास्किंग के विकल्प प्रदान करता है।

यिडुन ने अन्य उत्पादों की प्रभावशीलता के उदाहरण दिए। CMA आंतरिक सामग्री सुरक्षा मॉडल को विशेष छोटे मॉडलों के साथ जोड़ता है और चौबीसों घंटे काम करता है। कंपनी ने बताया कि एक ग्राहक की शिकायतों के विश्लेषण में, जो प्रति माह 2.5 मिलियन से अधिक टिकट संसाधित करता है, CMA का प्रारंभिक अवलोकन मानव जांच के साथ मिलकर औसत जांच समय को 35.7 मिनट से घटाकर 12.3 मिनट कर देता है, जिसमें 99.2% सटीकता होती है। डीपगार्ड, जो केवल ज्ञात जालसाजी संकेतों के बजाय अविश्वसनीय सामग्री की तलाश करता है, ने चीनी सूचना और संचार प्रौद्योगिकी अकादमी के फेस एंटी-स्पूफिंग मूल्यांकन में उच्चतम रेटिंग प्राप्त की और चरणबद्ध परीक्षण में स्क्रीन कैप्चर हमलों के खिलाफ 99% पूर्णता और 96% सटीकता प्रदर्शित की।

एक अलग मंच पर, यिडुन के सामग्री सुरक्षा विभाग के प्रमुख राव शियाओयान ने कहा कि दुर्भावनापूर्ण निर्देश वेबपेजों, फ़ाइलों, एपीआई, टूल या MCP प्रतिक्रियाओं में छिपे हो सकते हैं, इसलिए सिस्टम को कार्य डेटा और व्यवहार कमांड के बीच अंतर करना चाहिए। उन्होंने मॉडल कॉल से पहले और संदर्भ निर्माण से पहले इंजेक्शन सुरक्षा को लागू करने, और स्ट्रीम होने पर आउटपुट की जाँच करने का वर्णन किया: संदेह पैदा करने वाली सामग्री प्रदर्शित होती है, जांच के लिए भेजी जाती है, और उच्च जोखिम वाली सामग्री वापस ले ली जाती है।

समान कहानियाँ

WSO2 के सीईओ का दावा है कि उद्यमों को नेटवर्क में एआई एजेंटों के व्यवहार को समझना चाहिए
और पढ़ें
business-standard.com

WSO2 के सीईओ का दावा है कि उद्यमों को नेटवर्क में एआई एजेंटों के व्यवहार को समझना चाहिए

WSO2 के मुख्य कार्यकारी अधिकारी, हैरी ऑल्ट ने कहा कि निगमों को केवल कुछ एजेंटों के लिए इन नेटवर्कों तक पहुंच के मुद्दे पर ध्यान केंद्रित करने के बजाय, इस बात की गहरी समझ होनी चाहिए कि कृत्रिम बुद्धिमत्ता (एआई) पर चलने वाली प्रणालियाँ सभी नेटवर्क घटकों के साथ कैसे व्यवहार करती हैं और बातचीत करती हैं।

WSO2, एक अमेरिकी कंपनी जो ओपन-सोर्स सॉफ्टवेयर में विशेषज्ञता रखती है और जिसकी स्थापना 2005 में हुई थी, एंटरप्राइजेज के लिए सॉफ्टवेयर सिस्टम इंटीग्रेशन, उपयोगकर्ता पहचान सुरक्षा और एक्सेस से संबंधित है।

ऑल्ट के अनुसार, हालांकि एआई-आधारित एजेंटों का उपयोग कुछ समय से हो रहा है, उनमें से अधिकांश का उपयोग नियतात्मक प्रणालियों में किया गया था, जहां सुरक्षा और प्रबंधन सीधे नेटवर्क में अंतर्निहित थे, जिससे एजेंटों के पास स्थापित सीमाओं के बाहर कार्य करने के लिए कम विकल्प थे।

उन्होंने उल्लेख किया कि जेनरेटिव एआई में बदलाव संभाव्य परिदृश्यों की ओर ले जाता है जहां परिणामों की भविष्यवाणी करना असंभव है, जो उत्पादन स्तर के अनुप्रयोगों के लिए एक गंभीर समस्या प्रस्तुत करता है, और यह परिवर्तन सभी उद्यमों में हो रहा है।

ऐसे एजेंटों को नियंत्रित करने के लिए, कंपनियों को तैयार समाधानों का उपयोग करने के बजाय अपने स्वयं के एआई प्रबंधन योजनाएं विकसित करनी चाहिए और अनुकरण गेटवे और प्रमाणीकरण सेवाएं बनानी चाहिए, जिससे बौद्धिक संपदा स्थायी रूप से सुरक्षित रहे।

ऑल्ट ने वर्तमान वर्ष में अगस्त में सेवानिवृत्त होने वाले संस्थापक और दीर्घकालिक नेता संजीवा वीरवारन से WSO2 के सीईओ पदभार संभाला। ऑल्ट का मानना है कि एआई से उत्पन्न होने वाली सभी समस्याएं, जैसे एजेंटों का अनियंत्रित व्यवहार या बड़े भाषा मॉडल द्वारा अप्रासंगिक उत्तर देना, 'ओपन सोर्स कोड और खुले मानकों' के माध्यम से हल हो जाएंगी, जिससे अधिक लोगों को एक ही समस्या पर सहयोग करने की अनुमति मिलेगी।

उन्होंने आगे कहा कि लगभग सभी वैश्विक प्रौद्योगिकी और उत्पाद कंपनियों के लिए आय प्राप्त करने की अधिकांश क्षमता एआई से जुड़ी मांग से आती है, और यह प्रवृत्ति निकट भविष्य में बनी रहने की संभावना है।

विकास की बात करते हुए, ऑल्ट ने एआई के क्षेत्र में सभी मौजूदा समस्याओं को हल करने की आवश्यकता पर जोर दिया, जिसके बाद कंपनी अन्य फर्मों के साथ बजट पर चर्चा करती है और उन्हें उपयुक्त समाधान प्रदान करती है।

उन्होंने बताया कि संयुक्त राज्य अमेरिका और भारत जैसे देशों और क्षेत्रों में, 'एआई-फर्स्ट' दृष्टिकोण सभी कंपनियों के लिए मानक बन गया है। उन्होंने विशेष रूप से भारत पर प्रकाश डाला, यह देखते हुए कि इस देश में तकनीक द्वारा प्रदान की जा सकने वाली विशालता और मूल्य किसी अन्य क्षेत्र में नहीं मिल सकता है।

यह कंपनी, जो दुनिया भर के 92 देशों में लगभग 950 ग्राहकों को सेवा प्रदान करती है, भारत में प्रमुख सरकारी संस्थानों, नियामकों और वित्तीय संगठनों के साथ भी सहयोग करती है। इसके अलावा, उन्होंने जेनरेटिव एआई प्रौद्योगिकियों में सुधार के कारण भारत में संस्थापकों के नेतृत्व वाली उत्पाद कंपनियों के मजबूत विकास का उल्लेख किया है, जो WSO2 जैसी कंपनियों के लिए मूल कंपनी के अधिग्रहण या विलय के कई अवसर प्रदान करता है।

Netskope के संस्थापक ने सभी एआई एजेंटों को जीरो ट्रस्ट श्रेणी में शामिल करने पर जोर दिया
और पढ़ें
business-standard.com

Netskope के संस्थापक ने सभी एआई एजेंटों को जीरो ट्रस्ट श्रेणी में शामिल करने पर जोर दिया

संजय बेरी, नेटस्कोप के संस्थापक और सीईओ ने कहा कि कृत्रिम बुद्धिमत्ता (एआई) पर काम करने वाले सभी स्वायत्त एजेंटों को कंपनियों और उद्यमों द्वारा डिफ़ॉल्ट रूप से 'जीरो ट्रस्ट' श्रेणी में वर्गीकृत किया जाना चाहिए।

नेटस्कोप, एक अमेरिकी साइबर सुरक्षा कंपनी जिसके शेयर नैस्डैक पर सूचीबद्ध हैं और जिसकी बाजार पूंजीकरण $10 बिलियन से अधिक है, ने यह बात भारत की यात्रा के दौरान और बिजनेस स्टैंडर्ड प्रकाशन के साथ बातचीत के दौरान कही।

बेरी ने इस बात पर जोर दिया कि अंततः इन एआई एजेंटों द्वारा किए गए किसी भी उल्लंघन की जिम्मेदारी उन उद्यमों की होगी जो उन्हें लागू करते हैं, भले ही वे एजेंट किसी अन्य कंपनी द्वारा विकसित किए गए हों।

उन्होंने उल्लेख किया कि एक आम गलत धारणा यह है कि एआई एजेंट मनुष्य की जगह ले सकता है। बेरी के अनुसार, एआई एजेंट में नैतिकता, भावनात्मक बुद्धिमत्ता या अच्छाई और बुराई को निर्धारित करने वाली आंतरिक दिशा नहीं होती है, इसलिए उस पर पूरी तरह भरोसा नहीं किया जा सकता है, जैसे कि किसी भी बड़े भाषा मॉडल (एलएलएम) पर किया जाता है।

बेरी का मानना है कि एआई एजेंट अपनी मंजिल हासिल करने के लिए किसी भी साधन का उपयोग करेंगे, जिसमें व्यक्ति या प्रक्रिया में भाग लेने वाले अन्य एआई एजेंट के संबंध में 'झूठ और हेरफेर' शामिल है।

भले ही एजेंटों को लागू करने वाली कंपनियां उनके निर्माण और उपयोग में अत्यधिक सावधानी बरत सकती हैं, बेरी निरंतर नियंत्रण तंत्र, निगरानी और हस्तक्षेप की क्षमता की आवश्यकता पर जोर देते हैं।

इसके अलावा, उन्होंने एलएलएम और एआई के अत्याधुनिक एजेंटों को विकसित करने वाली कंपनियों से आग्रह किया कि वे अपने उत्पादों की क्षमताओं के बारे में अधिक पारदर्शी हों ताकि उपयुक्त शासन मानकों को लागू किया जा सके। बेरी ने साझा जिम्मेदारी की अवधारणा को स्पष्ट किया: हालांकि डेवलपर कंपनी की कुछ जिम्मेदारी होती है, अंतिम जिम्मेदारी उस उद्यम की होती है जो कार्यान्वयन करता है।

अनुचित प्रबंधन और कमजोर परीक्षण वातावरण के उदाहरणों में ऐसे मामले शामिल हैं जहां एआई एजेंट उन सैंडबॉक्स से बाहर निकल जाते हैं जिनमें उनका परीक्षण किया जाता है और उपयोगकर्ता द्वारा अनुरोधित कार्यों को करना शुरू कर देते हैं।

जैसे-जैसे भारत और दुनिया भर के उद्यम चैटबॉट और एआई-आधारित एजेंटों को गहराई से एकीकृत कर रहे हैं, नेटस्कोप जैसी कंपनियों को साइबर जोखिमों में मानवीय कारक को कम करने के लिए अधिक प्रयास करने की आवश्यकता है।

बेरी ने जोड़ा कि एआई से संबंधित अधिकांश डेटा लीक या डेटा हानि दुर्भावनापूर्ण इरादे के कारण नहीं होती है, बल्कि अन्य कारणों से होती है। उन्होंने एक उदाहरण दिया जब कोई कर्मचारी काम के दौरान कंपनी के गोपनीय डेटा को अपलोड करने के लिए व्यक्तिगत एआई चैटबॉट का उपयोग करता है, और उसे दंडित करने के बजाय उसे प्रशिक्षित किया जाना चाहिए कि ऐसा कार्य क्यों अस्वीकार्य है।

एआई एजेंट आर्किटेक्चर के उदय ने साइबर सुरक्षा समस्याओं को जटिल बना दिया है, क्योंकि हमलावर भी उसी मालिकाना जानकारी पर कब्जा करने की कोशिश के लिए शैडो एआई एजेंटों का उपयोग करते हैं जो पहले कमजोर नेटवर्क एंडपॉइंट्स या मानवीय त्रुटि के कारण खतरे में थी।

भारत जैसे देशों में, नेटस्कोप वहां काम करने वाली कंपनियों को नवीनतम वैश्विक मानकों, जिसमें डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम (डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट) शामिल है, का अनुपालन सुनिश्चित करने के लिए नई बुनियादी ढांचे के निर्माण और कुशल जनशक्ति को आकर्षित करने में सक्रिय रूप से निवेश कर रहा है, जब इसकी आवश्यकता होगी।

बेरी ने बताया कि कंपनी ने पिछले कुछ वर्षों में भारत में सालाना लगभग 100 मिलियन डॉलर का निवेश किया है और वर्तमान में 1300 कर्मचारियों की संख्या तक भर्ती जारी रखने की योजना बना रही है, जिनमें से आधे से अधिक नेटस्कोप इंजीनियर हैं।

लोकप्रिय