मीटा ने बुधवार को बताया कि उसके कृत्रिम बुद्धिमत्ता (AI) मॉडल में से एक ने साइबर सुरक्षा परीक्षण के दौरान दूसरी कंपनी को हैक कर लिया। इस घटना ने इस बात पर चिंता बढ़ा दी है कि डेवलपर्स अधिक शक्तिशाली AI सिस्टमों को कैसे नियंत्रित कर सकते हैं, खासकर Anthropic और OpenAI जैसे प्रतिस्पर्धियों द्वारा दर्ज की गई समान घटनाओं के बाद।
मीटा और Anthropic में आई समस्याओं का कारण कॉन्फ़िगरेशन में त्रुटियां थीं, जिन्होंने अनजाने में Anthropic के मॉडलों को खुले इंटरनेट तक पहुंच प्रदान की। OpenAI के मामले में, AI एजेंट ने साइबर सुरक्षा परीक्षण के दौरान इंटरनेट तक पहुंचने के लिए पहले से अज्ञात भेद्यता का उपयोग किया।
ये उल्लंघन इस बात पर बढ़ती चिंता को रेखांकित करते हैं कि उन्नत AI सिस्टम साइबर सुरक्षा के क्षेत्र में नए खतरे पैदा कर सकते हैं। इससे संभवतः अमेरिकी सरकार के AI सुरक्षा बढ़ाने के प्रयासों में वृद्धि होगी, क्योंकि कंपनियां अधिक सक्षम मॉडल विकसित करने की होड़ में हैं। कुछ प्रमुख AI नेताओं ने कहा है कि जब तक अधिक मजबूत सुरक्षा तंत्र लागू नहीं हो जाते, तब तक विकास धीमा होना चाहिए।
मीटा ने स्पष्ट किया कि वह उस घटना की जांच कर रही है जिसमें Irregular, एक स्वतंत्र कंपनी जो मेटा के लिए साइबर सुरक्षा मूल्यांकन करती है, की गलत कॉन्फ़िगरेशन के कारण गलती से उसके एक मॉडल को परीक्षण के दौरान इंटरनेट एक्सेस मिल गया था। मेटा ने अपने बयान में कहा कि मॉडल ने 'एक तृतीय-पक्ष सेवा में भेद्यता का फायदा उठाया, जो अन्य कंपनियों के साथ रिपोर्ट किए गए मामलों के समान है'।
द इंफॉर्मेशन नामक प्रकाशन की रिपोर्ट के अनुसार, जो स्रोतों का हवाला देता है, प्रभावित मॉडल मेटा का Muse Spark 1.1 था, जिसे कंपनी वास्तविक दुनिया के कोडिंग कार्यों और एजेंट क्षमताओं के लिए अपने सबसे उन्नत मॉडल के रूप में प्रचारित करती है। रिपोर्ट के अनुसार, मॉडल ने एक अज्ञात कंपनी की प्रणालियों का उल्लंघन किया और उसके आंतरिक वातावरण को बदल दिया।
Irregular के एक प्रतिनिधि ने रॉयटर्स को बताया कि यह घटना 'मूल्यांकन वातावरण का वही मुद्दा है जो पिछले सप्ताह Anthropic द्वारा उजागर किया गया था', और इसमें 'सैंडबॉक्स से पलायन या जटिल साइबर हमला शामिल नहीं था'। Irregular ने आगे कहा कि 'वर्तमान में कोई खुली समस्या नहीं है। Irregular रोकथाम और सुरक्षित साइबर ऑडिटिंग पर सर्वोत्तम प्रथाओं को साझा करने के लिए एक तकनीकी दस्तावेज़ विकसित कर रहा है'।
हाल की लीक ने अमेरिकी विधायकों के बीच चिंता बढ़ा दी है कि क्या अधिक परिष्कृत AI मॉडल साइबर हमलों को अंजाम देने या उनमें सहायता करने के लिए उपयोग किए जा सकते हैं। राज्य गणराज्य अभियोजकों के समूह ने OpenAI से अपने Hugging Face हैक से संबंधित सभी संभावित प्रासंगिक दस्तावेजों को संरक्षित करने का अनुरोध किया। OpenAI ने कहा कि वह इस अनुरोध को गंभीरता से लेगा और घटना पर एक तकनीकी रिपोर्ट प्रकाशित करेगा।
इस सप्ताह की शुरुआत में व्हाइट हाउस ने मेटा, Anthropic, OpenAI और गूगल सहित प्रमुख AI कंपनियों को हाल ही में अनुमोदित उन्नत AI मॉडल के लिए स्वैच्छिक साइबर सुरक्षा परीक्षण ढांचे पर चर्चा करने के लिए अधिकारियों के साथ मिलने के लिए आमंत्रित किया। ट्रम्प प्रशासन ने कंपनियों के प्रतिनिधियों के साथ अप्रकाशित परीक्षण नियमों पर चर्चा की और AI डेवलपर्स को सूचित किया कि मेटा का Llama और Nvidia का Nemotron जैसे ओपन-वेट AI मॉडल इसकी नियोजित स्वैच्छिक सुरक्षा प्रणाली के अंतर्गत नहीं आएंगे, जैसा कि रॉयटर्स ने बताया।
