एनवीडिया ने सोमवार को आर्टिफिशियल इंटेलिजेंस एजेंटों के लिए सुरक्षा उपकरणों का एक सेट जारी किया। कंपनी का दावा है कि यह तकनीक Hugging Face पर हुए हमले को रोकने में सक्षम थी, जो OpenAI के एजेंटों द्वारा लक्षित एआई प्रोग्रामिंग प्लेटफॉर्म था।
यह विकास ऐसे समय में हुआ है जब OpenAI और Anthropic दोनों ही वाणिज्यिक और सरकारी प्रणालियों में घुसपैठ करने की क्षमता वाले एजेंटों से जुड़े कई incidents की जांच कर रहे हैं। एनवीडिया इस तरह के व्यवहार को रोकने को एक इंजीनियरिंग चुनौती के रूप में देखता है, जिसमें इन सिस्टमों की गतिविधियों को सीमित करने के लिए तकनीकी तंत्रों पर ध्यान केंद्रित किया गया है।
प्रस्तुत उपकरणों में से एक OpenShell है, जो AI एजेंटों को नियंत्रित वातावरण में रखने और उनकी कार्रवाइयों को प्रतिबंधित करने के लिए एनवीडिया प्रोसेसर के हार्डवेयर संसाधनों का उपयोग करता है। इसके अलावा, कंपनी इस बात को सुनिश्चित करने के लिए Arm Holdings और Intel के साथ सहयोग कर रही है कि यह तकनीक इन दो निर्माताओं के प्रोसेसर पर कार्यात्मक हो। इस लॉन्च में Anthropic सहित दर्जनों भागीदारों ने भाग लिया।
प्लेटफ़ॉर्म के बारे में अधिक विवरण
एनवीडिया के उपाध्यक्ष और एंटरप्राइज कंप्यूटिंग के महाप्रबंधक जस्टिन बोइटानो ने कहा कि यदि मॉडल मूल्यांकन के दौरान इसका उपयोग किया जाता तो यह Hugging Face पर हुए हमले को रोक सकता था। बोइटानो ने रॉयटर्स को बताया कि 'जहाँ तक हम जानते हैं, यह नया सुरक्षा प्लेटफ़ॉर्म शुरुआत से ही मॉडल मूल्यांकन के लिए सीमावर्ती प्रयोगशालाओं में उपयोग किया जा रहा होता तो घुसपैठ को रोक सकता था'। उन्होंने आगे कहा कि कंपनी खुले तौर पर प्रगति कर रही है और संयुक्त कार्य में सभी को शामिल करना चाहती है।
घटना के महीनों बाद, एनवीडिया ने 13 बिलियन डॉलर में Hugging Face का अधिग्रहण औपचारिक रूप दिया।
पेश किए गए दूसरे उपकरण Sentry है, जो OpenShell के साथ काम करता है और एनवीडिया के एक समर्पित चिप का उपयोग करता है। इस प्रणाली में एक एजेंट को बाधित करने की क्षमता है यदि वह प्रोसेसर द्वारा स्थापित बाधाओं को तोड़ने का प्रयास करता है।
ये उपकरण सीमाओं को दरकिनार करने के प्रयासों का संकेत देने वाले व्यवहार पैटर्न की पहचान करने के लिए गणितीय समीकरणों का उपयोग करते हैं, जिसमें शामिल हैं:
अली गोलशान, एनवीडिया के सीनियर AI सॉफ्टवेयर डायरेक्टर ने स्पष्ट किया कि यह मुद्दा केवल एक एजेंट के व्यवहार से परे है, जिसमें यह भी शामिल है कि कई एजेंट आपस में कैसे बातचीत कर सकते हैं। गोलशान ने जोर देकर कहा: 'हम वास्तव में एजेंट व्यवहार की बात कर रहे हैं: एजेंटों के बेड़े और वे एक साथ कैसे संचालित होते हैं'।
संक्षेप में, नए समाधान सुरक्षा की बाधाओं को दरकिनार करने के किसी भी प्रयास का पता लगाने के लिए सॉफ्टवेयर और हार्डवेयर क्षमताओं को एकीकृत करते हैं। एनवीडिया इस सिस्टम को विभिन्न प्रकार के प्रोसेसरों तक विस्तारित करने और तकनीकी विकास में उद्योग कंपनियों के साथ साझेदारी जारी रखने की योजना बना रही है।
