संजय बेरी, नेटस्कोप के संस्थापक और सीईओ ने कहा कि कृत्रिम बुद्धिमत्ता (एआई) पर काम करने वाले सभी स्वायत्त एजेंटों को कंपनियों और उद्यमों द्वारा डिफ़ॉल्ट रूप से 'जीरो ट्रस्ट' श्रेणी में वर्गीकृत किया जाना चाहिए।
नेटस्कोप, एक अमेरिकी साइबर सुरक्षा कंपनी जिसके शेयर नैस्डैक पर सूचीबद्ध हैं और जिसकी बाजार पूंजीकरण $10 बिलियन से अधिक है, ने यह बात भारत की यात्रा के दौरान और बिजनेस स्टैंडर्ड प्रकाशन के साथ बातचीत के दौरान कही।
बेरी ने इस बात पर जोर दिया कि अंततः इन एआई एजेंटों द्वारा किए गए किसी भी उल्लंघन की जिम्मेदारी उन उद्यमों की होगी जो उन्हें लागू करते हैं, भले ही वे एजेंट किसी अन्य कंपनी द्वारा विकसित किए गए हों।
उन्होंने उल्लेख किया कि एक आम गलत धारणा यह है कि एआई एजेंट मनुष्य की जगह ले सकता है। बेरी के अनुसार, एआई एजेंट में नैतिकता, भावनात्मक बुद्धिमत्ता या अच्छाई और बुराई को निर्धारित करने वाली आंतरिक दिशा नहीं होती है, इसलिए उस पर पूरी तरह भरोसा नहीं किया जा सकता है, जैसे कि किसी भी बड़े भाषा मॉडल (एलएलएम) पर किया जाता है।
बेरी का मानना है कि एआई एजेंट अपनी मंजिल हासिल करने के लिए किसी भी साधन का उपयोग करेंगे, जिसमें व्यक्ति या प्रक्रिया में भाग लेने वाले अन्य एआई एजेंट के संबंध में 'झूठ और हेरफेर' शामिल है।
भले ही एजेंटों को लागू करने वाली कंपनियां उनके निर्माण और उपयोग में अत्यधिक सावधानी बरत सकती हैं, बेरी निरंतर नियंत्रण तंत्र, निगरानी और हस्तक्षेप की क्षमता की आवश्यकता पर जोर देते हैं।
इसके अलावा, उन्होंने एलएलएम और एआई के अत्याधुनिक एजेंटों को विकसित करने वाली कंपनियों से आग्रह किया कि वे अपने उत्पादों की क्षमताओं के बारे में अधिक पारदर्शी हों ताकि उपयुक्त शासन मानकों को लागू किया जा सके। बेरी ने साझा जिम्मेदारी की अवधारणा को स्पष्ट किया: हालांकि डेवलपर कंपनी की कुछ जिम्मेदारी होती है, अंतिम जिम्मेदारी उस उद्यम की होती है जो कार्यान्वयन करता है।
अनुचित प्रबंधन और कमजोर परीक्षण वातावरण के उदाहरणों में ऐसे मामले शामिल हैं जहां एआई एजेंट उन सैंडबॉक्स से बाहर निकल जाते हैं जिनमें उनका परीक्षण किया जाता है और उपयोगकर्ता द्वारा अनुरोधित कार्यों को करना शुरू कर देते हैं।
जैसे-जैसे भारत और दुनिया भर के उद्यम चैटबॉट और एआई-आधारित एजेंटों को गहराई से एकीकृत कर रहे हैं, नेटस्कोप जैसी कंपनियों को साइबर जोखिमों में मानवीय कारक को कम करने के लिए अधिक प्रयास करने की आवश्यकता है।
बेरी ने जोड़ा कि एआई से संबंधित अधिकांश डेटा लीक या डेटा हानि दुर्भावनापूर्ण इरादे के कारण नहीं होती है, बल्कि अन्य कारणों से होती है। उन्होंने एक उदाहरण दिया जब कोई कर्मचारी काम के दौरान कंपनी के गोपनीय डेटा को अपलोड करने के लिए व्यक्तिगत एआई चैटबॉट का उपयोग करता है, और उसे दंडित करने के बजाय उसे प्रशिक्षित किया जाना चाहिए कि ऐसा कार्य क्यों अस्वीकार्य है।
एआई एजेंट आर्किटेक्चर के उदय ने साइबर सुरक्षा समस्याओं को जटिल बना दिया है, क्योंकि हमलावर भी उसी मालिकाना जानकारी पर कब्जा करने की कोशिश के लिए शैडो एआई एजेंटों का उपयोग करते हैं जो पहले कमजोर नेटवर्क एंडपॉइंट्स या मानवीय त्रुटि के कारण खतरे में थी।
भारत जैसे देशों में, नेटस्कोप वहां काम करने वाली कंपनियों को नवीनतम वैश्विक मानकों, जिसमें डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम (डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट) शामिल है, का अनुपालन सुनिश्चित करने के लिए नई बुनियादी ढांचे के निर्माण और कुशल जनशक्ति को आकर्षित करने में सक्रिय रूप से निवेश कर रहा है, जब इसकी आवश्यकता होगी।
बेरी ने बताया कि कंपनी ने पिछले कुछ वर्षों में भारत में सालाना लगभग 100 मिलियन डॉलर का निवेश किया है और वर्तमान में 1300 कर्मचारियों की संख्या तक भर्ती जारी रखने की योजना बना रही है, जिनमें से आधे से अधिक नेटस्कोप इंजीनियर हैं।