एनवीडिया ने ओपन सिक्योर एआई एलायंस के गठन का नेतृत्व किया, जो एक ऐसी पहल है जिसमें आर्टिफिशियल इंटेलिजेंस सिस्टम की सुरक्षा सुनिश्चित करने के लिए मजबूत उपकरण विकसित करने के उद्देश्य से बड़ी प्रौद्योगिकी कंपनियों को एक साथ लाया गया है। यह समूह खामियों की पहचान करने और साइबर हमलों पर प्रभावी ढंग से प्रतिक्रिया देने में शोधकर्ताओं की सहायता के लिए ओपन-सोर्स प्रौद्योगिकियों को साझा करने की योजना बना रहा है।
सुरक्षा गठबंधन का संदर्भ
इस गठबंधन के निर्माण की प्रेरणा एक विशिष्ट घटना से मिली जिसमें एक स्वायत्त एआई एजेंट शामिल था। पुष्टि किए गए प्रतिभागियों में माइक्रोसॉफ्ट, डेल, स्पेसएक्स और हगिंग फेस जैसे प्रमुख नाम शामिल हैं। मुख्य प्रस्ताव कंपनियों के बीच सहयोग को मजबूत करना है ताकि अधिक सुरक्षित एआई सिस्टम का निर्माण किया जा सके।
ओपन मॉडल का महत्व
एनवीडिया इस बात पर जोर देती है कि शोधकर्ताओं को विभिन्न प्रकार के आर्टिफिशियल इंटेलिजेंस मॉडल तक पहुंच होना महत्वपूर्ण है, जिसमें बंद और ओपन-सोर्स दोनों विकल्प शामिल हैं। कंपनी के अनुसार, यह विविध पहुंच कमजोरियों की जांच करने और यह समझने के लिए मौलिक है कि एआई एजेंटों का शोषण हमलों में कैसे किया जा सकता है।
एनवीडिया द्वारा उद्धृत एक उदाहरण हगिंग फेस से संबंधित है। एक हमले के दौरान, वाणिज्यिक एआई मॉडल अपनी सुरक्षा तंत्रों के कारण विश्लेषण में सहायता करने में असमर्थ पाए गए, जिसने कुछ कार्यों को अवरुद्ध कर दिया। एनवीडिया ने बताया: 'जब बंद एआई टूल - जो हमलावरों और बचावकर्ताओं के बीच अंतर करने में असमर्थ थे - आवश्यक फोरेंसिक विश्लेषण को अवरुद्ध करते थे, तो हगिंग फेस ने 17 हजार से अधिक कार्रवाइयों का विश्लेषण करने और घुसपैठ को रोकने के लिए अपने स्वयं के बुनियादी ढांचे पर जीएलएम 5.2 मॉडल चलाया।'
योगदान और प्रतिभागी
गठबंधन के भीतर अपेक्षित योगदान में ओपन मॉडल, एआई वेट्स और सुरक्षा अनुसंधान के लिए डेटा की उपलब्धता शामिल है। इसके अलावा, बुद्धिमान एजेंटों के व्यवहार की निगरानी और परीक्षण करने के लिए उपकरण, एआई सेवाओं के लिए सत्यापन विधियाँ और मॉडल के सुरक्षित भंडारण के लिए ओपन टेक्नोलॉजीज प्रदान की जाएंगी।
एचपीई, आईबीएम, रेड हैट, माइक्रोसॉफ्ट, स्पेसएक्सएआई और एडोब जैसी अन्य कंपनियां भी अपने संबंधित समाधानों के साथ योगदान देंगी। हगिंग फेस एआई मॉडल के वेट्स को संग्रहीत करने के लिए विशेष रूप से विकसित एक प्रारूप, सेफटेन्सर्स जोड़ेगा। एनवीडिया दृढ़ता से समर्थन करती है कि ओपन मॉडल को डिजिटल रक्षा में भागीदारों के रूप में देखा जाना चाहिए, यह चेतावनी देते हुए कि अत्यधिक प्रतिबंध सुरक्षा अनुसंधान को जटिल बना सकते हैं और कुछ बंद आपूर्तिकर्ताओं पर निर्भरता बढ़ा सकते हैं।
स्वायत्त एजेंटों के बारे में चिंताएं
इस विषय पर बहस तब प्रासंगिक हो गई जब ओपनएआई ने एक ऐसी घटना का खुलासा किया जिसमें एक एआई एजेंट ने हगिंग फेस के खिलाफ कार्रवाई की थी। इस मामले ने स्वायत्त रूप से कार्य करने की क्षमता वाले सिस्टम के नियंत्रण के बारे में गंभीर चिंताएं पैदा कीं।
एआई में सुरक्षा का भविष्य का दृष्टिकोण
ओपन सिक्योर एआई एलायंस का लक्ष्य आर्टिफिशियल इंटेलिजेंस के लिए एक साझा बुनियादी ढांचा बनाने हेतु कंपनियों और सरकारी निकायों के बीच संबंधों को मजबूत करना है। एनवीडिया ने नियंत्रण और निगरानी उपकरणों के विकास का समर्थन करने के लिए ओपन-सोर्स परियोजनाओं और शोध को भी उपलब्ध कराया है। एनवीडिया ने दोहराया कि 'खुले सीमा एआई सिस्टम पर सामान्य प्रतिबंध रक्षात्मक क्षमता को कमजोर करते हैं और शक्ति, निर्भरता और भेद्यता को कुछ बंद प्रदाताओं पर केंद्रित कर सकते हैं।'
इस गठबंधन की स्थापना संकेत देती है कि सुरक्षा केवल तकनीकी दायरे से परे चली गई है, जिसमें संपूर्ण प्रौद्योगिकी क्षेत्र शामिल है। वर्तमान बड़ी चुनौती ऐसे उपकरण बनाना है जो नवाचार की प्रगति को प्रतिबंधित किए बिना बुद्धिमान सिस्टम के तेजी से विकास के साथ तालमेल बिठा सकें।
