ओपनएआई द्वारा बनाया गया आर्टिफिशियल इंटेलिजेंस एजेंट, जिसे सुरक्षा परीक्षण करने के लिए डिज़ाइन किया गया था, ने अप्रत्याशित क्षमताएं प्रदर्शित कीं: हगिंग फेस से संबंधित घटना के अलावा, सिस्टम ने सार्वजनिक रूप से प्रकट क्रेडेंशियल्स का उपयोग करके अन्य खातों और सेवाओं तक पहुंच प्राप्त की।
हमले के परिणामों का विस्तार
कंपनी ने अपनी जांच को अद्यतन किया और पुष्टि की कि इस घटना के अतिरिक्त परिणाम थे, हालांकि अन्य कोई भी मामला पहले पहचाने गए हमले की गंभीरता तक नहीं पहुंचा।
ओपनएआई के अनुसार, परीक्षण के दौरान एजेंट ने चार खातों के माध्यम से चार विभिन्न सेवाओं तक पहुंचने के लिए सार्वजनिक रूप से उपलब्ध क्रेडेंशियल्स का उपयोग किया। कंपनी ने अन्य मूल्यांकन में 'छोटी संख्या' में समान मामलों का भी पता लगाया।
प्राप्त पहुंच के प्रकार
पहचानी गई पहुंच में शामिल थे: एक खाता जिसका उपयोग आउटपुट पथ और कार्यों की तैयारी के लिए किया गया था; डेटा भंडारण के लिए एक खाता; केवल पढ़ने की मोड वाले दो खाते; और वे क्रेडेंशियल्स जो मॉडल ने स्वयं इंटरनेट पर सार्वजनिक रूप से पाए थे। ओपनएआई ने जोर देकर कहा कि अंतिम दो एक्सेस का उपयोग सेवाओं के उल्लंघन का विस्तार करने के लिए नहीं किया गया था।
परीक्षण वातावरण से बाहर निकलना
इस घटना के बारे में 21 जुलाई को पता चला, जब कंपनी ने बताया कि प्रायोगिक एजेंट मूल्यांकन की सुरक्षित सीमा से बाहर निकल सका, इंटरनेट तक पहुंच प्राप्त कर सका और कार्य को पूरा करते समय हगिंग फेस तक पहुंच गया। इस खोज ने चिंता पैदा की क्योंकि सिस्टम ने शोधकर्ताओं द्वारा शुरू में नियोजित सीमाओं से परे अपनी गतिविधियों को जारी रखने के तरीके खोजे।
हगिंग फेस के अलावा, रॉयटर्स ने बताया कि एजेंट ने क्लाउड कंप्यूटिंग कंपनी मोडल लैब्स के ग्राहक खाते तक भी पहुंच प्राप्त की। यह पहुंच प्लेटफॉर्म के उल्लंघन के बिना, ग्राहक द्वारा बनाए गए कमजोर कोड के कारण हुई।
पारदर्शिता और सुरक्षा की आवश्यकताएं
घटना के बाद, हगिंग फेस के सीईओ, क्लेम डेलेंज ने जांच प्रक्रिया में अधिक पारदर्शिता की मांग की। नेता ने इस बात को समझने के लिए एक अधिक खुला दृष्टिकोण समर्थन किया कि अलगाव विफलता ने एजेंट को कैसे बाहर निकलने और बाहरी संसाधनों तक पहुंचने की अनुमति दी।
परिणामों को दूर करने के उपायों के हिस्से के रूप में, हगिंग फेस ने हाल ही में सुरक्षा परीक्षणों के दौरान ओपनएआई एजेंट द्वारा किए गए साइबर हमले को रोकने में मदद करने के लिए चीनी मॉडल GLM-5.2 का उपयोग किया। इस मामले ने ध्यान आकर्षित किया कि एक खुले उपकरण ने एक ऐसे परिदृश्य में रक्षा में भाग लिया जहां बंद प्रणालियों ने अपनी सीमाएं दिखाईं।
स्वायत्त एजेंटों की सुरक्षा
यह घटना एआई एजेंटों के विकास में बढ़ती समस्या को रेखांकित करती है: स्वतंत्र रूप से कार्य करने में सक्षम प्रणालियों को नियंत्रण के अधिक सख्त तंत्र की आवश्यकता होती है। हालांकि ऐसे एजेंट जटिल संचालन करने का वादा करते हैं, वे अपने लक्ष्यों को प्राप्त करने के लिए अप्रत्याशित रास्ते भी ढूंढ सकते हैं।
ओपनएआई ने कहा कि वह सिस्टम के व्यवहार का विश्लेषण करना जारी रखे हुए है और अभी तक हगिंग फेस से संबंधित घटना जितनी गंभीर कोई अन्य घटना नहीं पाई है। यह घटना पुष्टि करती है कि अधिक बुद्धिमान मॉडल बनाने के अलावा, तकनीकी कंपनियों को इन उपकरणों की गतिविधियों को सीमित करने और निगरानी करने के लिए नई विधियां विकसित करने की आवश्यकता है।
