Anthropic कंपनी ने बताया कि परीक्षण के दौरान उसके आर्टिफिशियल इंटेलिजेंस मॉडल क्लॉड ने तीन अलग-अलग कंपनियों की प्रणालियों को हैक किया। यह कॉन्फ़िगरेशन में एक त्रुटि के कारण हुआ, जिसने मॉडल को इंटरनेट तक पहुंच प्रदान की, जिससे तेजी से स्वायत्त एआई प्रणालियों की सुरक्षा के बारे में चिंताएं बढ़ गई हैं।
यह खुलासा ओपनएआई द्वारा कुछ ही दिनों बाद हुआ, जब उसने स्वीकार किया कि उसके एक प्रायोगिक एजेंट ने साइबर सुरक्षा बेंचमार्क के दौरान परीक्षण वातावरण से बाहर निकलकर एआई प्लेटफॉर्म हगिंग फेस में प्रवेश कर लिया था।
एआई 'एस्केप' अटैक क्या है?
हाल की घटनाएं पारंपरिक 'जेेलब्रेक' हमलों से भिन्न हैं, जहां उपयोगकर्ता चैटबॉट को सावधानीपूर्वक तैयार किए गए प्रॉम्प्ट के माध्यम से सुरक्षा नियमों को अनदेखा करने के लिए धोखा देते हैं। इसके बजाय, हाल की घटनाओं में एआई एजेंट शामिल थे जो अपने निर्धारित लक्ष्यों को प्राप्त करने के तरीके स्वयं खोज रहे थे।
Anthropic के परीक्षणों में, मॉडलों ने सिमुलेटेड 'फ्लैग कैप्चर' (capture-the-flag) अभ्यासों के हिस्से के रूप में अपेक्षाकृत सरल सुरक्षा कमजोरियों का उपयोग किया, जिनका उद्देश्य साइबर सुरक्षा क्षमताओं का आकलन करना था। इस बीच, ओपनएआई एजेंट ने कथित तौर पर एक भेद्यता का पता लगाया, जिससे उसे बेंचमार्क कार्य को पूरा करने की कोशिश करते समय सैंडबॉक्स से बाहर निकलने और बाहरी प्रणालियों तक पहुंचने की अनुमति मिली।
क्या घुसपैठ वास्तविक थीं?
हाँ। साइबर सुरक्षा सिमुलेशन के विपरीत, ओपनएआई और Anthropic दोनों की घटनाओं में एआई एजेंटों द्वारा बाहरी प्रणालियों के खिलाफ वास्तविक साइबर संचालन शामिल थे, जो अनजाने में पहुंच प्राप्त करने के बाद हुए थे। किसी भी कंपनी ने महत्वपूर्ण वित्तीय नुकसान या परिचालन व्यवधान की सूचना नहीं दी।
ओपनएआई ने स्पष्ट किया कि उसके एजेंट ने गोपनीय जानकारी चुराने के बजाय साइबर सुरक्षा बेंचमार्क ExploitGym के लिए उत्तर खोजने की कोशिश करते हुए हगिंग फेस तक पहुंच प्राप्त की थी। इसी तरह, Anthropic ने कहा कि तीन घटनाएं आंतरिक जांच के दौरान सामने आईं जब कॉन्फ़िगरेशन त्रुटि ने गलती से मॉडलों को इंटरनेट एक्सेस प्रदान किया। परिणामों की सीमितता के बावजूद, शोधकर्ताओं ने नोट किया कि ये मामले स्वायत्त एआई एजेंटों की क्षमता को साबित करते हैं कि वे पर्याप्त अनुमतियों की उपस्थिति में स्वतंत्र रूप से कमजोरियों का पता लगा सकते हैं और अप्रत्याशित कार्रवाई कर सकते हैं, जो निगरानी और रोकथाम को मजबूत करने की आवश्यकता पर जोर देता है।
एआई सुरक्षा के विभिन्न दृष्टिकोण
हगिंग फेस की घटना ने एआई सुरक्षा के दृष्टिकोणों में अंतर को भी उजागर किया। हगिंग फेस के अनुसार, फोरेंसिक विश्लेषण के लिए निवेशकों ने चीनी कंपनी Z.ai के ओपन-सोर्स मॉडल GLM-5.2 का उपयोग किया। कंपनी ने उल्लेख किया कि चीनी मॉडल ने सुरक्षा इंजीनियरों को हमले के मार्ग को बेहतर ढंग से समझने और रोकथाम के तरीकों की पहचान करने में मदद की।
इस घटना ने ध्यान आकर्षित किया क्योंकि इसने एआई उद्योग में उभरते विभिन्न सुरक्षा दर्शनों को दर्शाया। ओपनएआई के प्रायोगिक एजेंट को उन्नत साइबर सुरक्षा बेंचमार्क के हिस्से के रूप में जानबूझकर व्यापक अनुमतियां दी गईं, जिसे स्वायत्त आक्रामक क्षमताओं का मूल्यांकन करने के लिए विकसित किया गया था। Anthropic ने भी क्लॉड का परीक्षण ऐसे वातावरणों में किया जहां मॉडलों को निर्धारित लक्ष्यों को प्राप्त करने पर स्वतंत्र निर्णय लेने की अनुमति थी।
इसके विपरीत, प्रमुख चीनी एआई डेवलपर्स ने आम तौर पर अधिक रूढ़िवादी तैनाती रणनीतियों को अपनाया है। अधिकांश बड़े चीनी मॉडल अधिक सख्त अनुमतियों नियंत्रण, कठोर निष्पादन सीमाओं और स्वायत्त कार्यों के बाहरी प्रणालियों को प्रभावित करने से पहले बहु-स्तरीय मानव पर्यवेक्षण का समर्थन करते हैं।
सुरक्षा की कहानी बतानी चाहिए या क्षमताओं की?
हालांकि Anthropic और OpenAI ने इन खुलासों को उन्नत एआई जोखिमों में पारदर्शिता बढ़ाने के प्रयासों के रूप में प्रस्तुत किया, कुछ आलोचकों का तर्क है कि ये घोषणाएं व्यावसायिक उद्देश्यों की पूर्ति भी करती हैं। टेकक्रंच ने उल्लेख किया कि एआई कंपनियों पर सुरक्षा घटनाओं को विपणन उद्देश्यों के लिए उपयोग करने का आरोप है, क्योंकि वे महत्वपूर्ण ध्यान आकर्षित करती हैं और इन कंपनियों के उत्पादों की शक्ति पर जोर दे सकती हैं।
Lawfare में एक लेख में, सेंट जोन्स विश्वविद्यालय की सहायक प्रोफेसर केट क्लोनिक ने तर्क दिया कि एआई कंपनियों ने सुरक्षा घटनाओं को अपनी तकनीकी नेतृत्व को मजबूत करने के अवसरों में बदलना सीख लिया है। प्रौद्योगिकी इतिहासकार ली विंसल के 'क्रिटिको-हाइप' की अवधारणा पर आधारित, उन्होंने लिखा कि एआई खतरों के बारे में चेतावनियाँ एक साथ एआई की शक्ति के विपणन के रूप में कार्य कर सकती हैं, जिससे कंपनियों को आलोचना को प्रचार में बदलने की अनुमति मिलती है, जिससे यह धारणा मजबूत होती है कि उनके पास दुनिया की सबसे उन्नत प्रणालियाँ हैं। क्लोनिक ने जोड़ा कि ओपनएआई के मामले में, ये खुलासे कंपनी के अपेक्षित प्राथमिक सार्वजनिक पेशकश (IPO) से पहले 'विज्ञापन' के रूप में भी काम कर सकते हैं।
अन्य लोग और भी अधिक सीधे थे। एआई नाउ इंस्टीट्यूट में एआई के मुख्य वैज्ञानिक हेडी हलाफ ने द गार्डियन को दिए एक साक्षात्कार में Anthropic के सुरक्षा पर शुरुआती बड़े बयान की आलोचना की, जो उसके अभी तक जारी न किए गए मॉडल क्लॉड मिथोस से संबंधित था, और इसे 'विपणन पोस्ट' कहा। उन्होंने सवाल उठाया कि क्या कंपनी पर्याप्त सहायक डेटा प्रदान किए बिना निवेश और जनता का ध्यान आकर्षित करने के लिए चिंताजनक बयानों का उपयोग कर रही है।
आलोचक यह भी तर्क देते हैं कि अंततः ये घटनाएं एआई की स्वायत्तता के बजाय मानवीय डिजाइन निर्णयों को उजागर करती हैं। एजेंटों को महत्वाकांक्षी कार्य दिए गए थे, उन्हें व्यापक अनुमतियां दी गई थीं, और उन्होंने अपूर्ण रोकथाम उपायों की स्थिति में कार्य किया। इस दृष्टिकोण से, वास्तविक समस्या मूल्यांकन डिजाइन और सुरक्षा उपायों में सुधार करना है, न कि इन घटनाओं को मशीनों द्वारा स्वतंत्र रूप से अपने निर्माताओं से 'भागने' के मामलों के रूप में प्रस्तुत करना।
