ओपनएआई ने स्वीकार किया कि उसकी कृत्रिम बुद्धिमत्ता मॉडलों के एक समूह ने आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान हगिंग फेस प्लेटफॉर्म की सुरक्षा का उल्लंघन किया। इस घटना ने उन्नत एआई मॉडलों की बढ़ती क्षमताओं पर प्रकाश डाला और एआई सुरक्षा के संबंध में चिंताएं फिर से बढ़ा दीं।
आंतरिक परीक्षण का विवरण
ओपनएआई के 21 जुलाई के आधिकारिक बयान के अनुसार, यह घटना आंतरिक जांच के हिस्से के रूप में हुई थी, जिसका उद्देश्य मॉडलों की साइबर क्षमताओं को मापना था। मूल्यांकन में जीपीटी-5.6 सोल और एक अधिक शक्तिशाली पूर्व संस्करण शामिल थे, और इन मॉडलों की क्षमताओं की सीमाओं का परीक्षण करने के लिए मानक उत्पादन सुरक्षा तंत्रों को जानबूझकर कमजोर किया गया था।
कमजोरी का पता लगाना
परीक्षण एक सख्ती से अलग सैंडबॉक्स वातावरण में किया गया था, जहां नेटवर्क एक्सेस तीसरे पक्ष के विक्रेता के आंतरिक प्रॉक्सी सर्वर के माध्यम से सॉफ्टवेयर पैकेज स्थापित करने तक सीमित था। फिर भी, मॉडलों ने इस प्रॉक्सी में पहले से अज्ञात शून्य-दिवस भेद्यता का पता लगाया और उसका उपयोग किया, जिससे उन्हें इंटरनेट तक पहुंच प्राप्त हुई। इसके बाद, उन्होंने अनुमान लगाया कि हगिंग फेस एक्सप्लॉइटजीएम - मूल्यांकन में उपयोग किए जाने वाले साइबर सुरक्षा बेंचमार्क - से संबंधित मॉडल, डेटासेट और समाधान होस्ट कर सकता है, और परीक्षण समाधान प्राप्त करने के लिए अनधिकृत पहुंच का प्रयास किया।
हमले के तंत्र और प्रतिक्रिया
ओपनएआई ने बताया कि मॉडलों ने हगिंग फेस की उत्पादन अवसंरचना में घुसपैठ करने के लिए अतिरिक्त कमजोरियों और चोरी किए गए क्रेडेंशियल्स का उपयोग सहित कई हमले के तरीकों को जोड़ा। कंपनी ने उल्लेख किया कि सभी उपलब्ध सबूत बताते हैं कि मॉडल किसी व्यापक लक्ष्य को प्राप्त करने के बजाय बेंचमार्क के लिए समाधान प्राप्त करने पर 'अति-केंद्रित' थे।
घटना की जांच
इससे पहले, हगिंग फेस ने स्वायत्त एआई एजेंटों की प्रणाली द्वारा अपनी उत्पादन अवसंरचना के उल्लंघन की सूचना दी थी। कंपनी ने उल्लेख किया कि उन्नत एआई मॉडलों का उपयोग करके हमले का प्रारंभिक विश्लेषण करने के प्रयास में, अंतर्निहित सुरक्षा तंत्रों ने मॉडलों को मदद करने से रोका क्योंकि वे हमलावर और रक्षक के बीच अंतर नहीं कर सके। बाद में, हगिंग फेस ने चीनी एआई कंपनी ज़ेड.एआई द्वारा विकसित एक ओपन-वेट मॉडल जीएलएम-5.2 का उपयोग करके फोरेंसिक विश्लेषण किया। इस मॉडल को अपने स्वयं के बुनियादी ढांचे पर चलाने से कंपनी को हमले या क्रेडेंशियल्स के बारे में गोपनीय डेटा को अपनी आंतरिक वातावरण से बाहर प्रकट किए बिना घटना का अध्ययन करने की अनुमति मिली।
जीएलएम-5.2 का महत्व और बयान
जून में जारी जीएलएम-5.2, ज़ेड.एआई का नवीनतम फ्लैगशिप मॉडल है। इसे फ्रंटएंड विकास के लिए कोड एरिना बेंचमार्क में सार्वजनिक मॉडलों में पहला स्थान प्राप्त हुआ। हगिंग फेस के सह-संस्थापक और मुख्य वैज्ञानिक अधिकारी, थॉमस वुल्फ ने 21 जुलाई को एक्स पर पोस्ट किया कि ओपन साइंस और ओपन सोर्स एआई एक सुरक्षित, सहयोगी और विश्वसनीय एआई पारिस्थितिकी तंत्र के निर्माण के लिए प्रमुख उपकरणों में से हैं।
सुरक्षा पर ओपनएआई के निष्कर्ष
ओपनएआई ने इस मामले को साइबर सुरक्षा के क्षेत्र में एआई की उन्नत क्षमताओं से जुड़ा एक 'अभूतपूर्व साइबर घटना' बताया। कंपनी ने घोषणा की कि उसने आंतरिक मूल्यांकन के दौरान नियंत्रण को मजबूत करना, रोकथाम और निगरानी में सुधार करना शुरू कर दिया है, साथ ही भविष्य के मॉडल परीक्षणों के आसपास सुरक्षा उपायों को भी मजबूत किया है। इसके अलावा, कंपनी ने इस बात पर जोर दिया कि यह घटना उन्नत एआई मॉडलों की वास्तविक प्रणालियों में स्रोत कोड तक पहुंच के बिना नए हमले के रास्ते खोजने और उनका उपयोग करने की क्षमता को प्रदर्शित करती है, जो एआई क्षमताओं के विकास के साथ सुरक्षा उपायों को मजबूत करने की आवश्यकता को इंगित करता है।


