एन्थ्रोपिक ने गुरुवार, 30 तारीख को सूचित किया कि उसके कुछ आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल साइबर सुरक्षा परीक्षणों के दौरान तीन कंपनियों के सिस्टम में घुसने में सफल रहे। यह पहुंच इसलिए हुई क्योंकि एक कॉन्फ़िगरेशन त्रुटि के कारण मॉडलों को इंटरनेट से जुड़ने की अनुमति मिल गई थी। कंपनी के अनुसार, ये घटनाएं उसके ज्ञान के बिना हुईं और अप्रैल में शुरू हुईं।
एआई सुरक्षा संदर्भ
यह घटना ओपनएआई द्वारा सूचना देने के तुरंत बाद हुई कि उसके एआई एजेंट में से एक एक अलग परीक्षण वातावरण से बाहर निकल गया था और एआई कंपनी हगिंग फेस पर हमलों की एक श्रृंखला कर रहा था, जिसने एआई विशेषज्ञों और सुरक्षा शोधकर्ताओं के बीच बड़ी रुचि जगाई।
एन्थ्रोपिक ने स्पष्ट किया कि मॉडलों को सैंडबॉक्स के रूप में जाने जाने वाले नेटवर्क से अलग वातावरण में काम करना चाहिए। हालांकि, एन्थ्रोपिक और उसके परीक्षण भागीदार, इररेगुलर, दोनों द्वारा प्रबंधित प्रणालियों में एक अनुचित कॉन्फ़िगरेशन के कारण बाहरी नेटवर्क तक पहुंच संभव हो गई।
घटनाओं का विश्लेषण
ओपनएआई से संबंधित घटना के बारे में पता चलने पर, एन्थ्रोपिक ने अपने स्वयं के सुरक्षा परीक्षण रिकॉर्ड की गहन समीक्षा शुरू की। इस विश्लेषण में साइबर सुरक्षा मूल्यांकन के 141,006 निष्पादन शामिल थे, जिसके परिणामस्वरूप तीन ऐसे अवसर सामने आए जब उसके मॉडलों ने इंटरनेट तक पहुंच प्राप्त की और बाहरी संस्थाओं के सिस्टम से समझौता किया।
ओपनएआई द्वारा रिपोर्ट किए गए मामले के विपरीत, एन्थ्रोपिक ने आश्वासन दिया कि उसके मॉडल सैंडबॉक्स से नहीं भागे; उन्हें ऐसे वातावरण में चलाया गया था जहां कॉन्फ़िगरेशन त्रुटि के कारण ऐसा अलगाव मौजूद नहीं था। हालांकि कंपनी ने यह निर्दिष्ट नहीं किया कि किन कंपनियों को निशाना बनाया गया था, उसने पुष्टि की कि सभी को पिछले सोमवार, 27 तारीख को विधिवत सूचित कर दिया गया था।
हमलों का विवरण
एन्थ्रोपिक के अनुसार, मॉडल इस झूठी धारणा के तहत कार्य कर रहे थे कि घुसपैठ उनके लिए प्रोग्राम किए गए मूल्यांकन परीक्षणों का हिस्सा थीं। कंपनी ने घोषणा की कि क्लॉड ने कमजोर पासवर्ड के शोषण और प्रमाणीकरण की आवश्यकता न होने वाले प्रवेश बिंदुओं तक पहुंच जैसे सरल तरीकों का उपयोग करके प्रभावित संगठनों के बुनियादी ढांचे का फायदा उठाया।
हमलों में क्लॉड ओपस 4.7, मिथोस 5 और एक प्रायोगिक मॉडल शामिल था जिसका नाम जारी नहीं किया गया था। इररेगुलर के एक प्रवक्ता ने पुष्टि की कि कंपनी इस घटना की जांच कर रही है।
नियामक निहितार्थ
यह घटना उन्नत एआई मॉडल के अंतर्निहित जोखिमों के बारे में चिंताओं को बढ़ाएगी, खासकर वे जो उपयोगकर्ताओं द्वारा परिभाषित लक्ष्यों को प्राप्त करने के लिए स्वायत्त रूप से कार्य करने की क्षमता रखते हैं। संयुक्त राज्य अमेरिका में, यह विषय पहले से ही अधिकारियों की निगरानी में है, जिसमें व्हाइट हाउस ने एआई पर अपनी निगरानी बढ़ाई है। समानांतर रूप से, उद्योग की कंपनियां खुले-वजन (ओपन-वेट) मॉडल तक पहुंच जारी रखने की वकालत करती हैं, जिन्हें उपयोगकर्ताओं के नियंत्रण वाले सिस्टम पर संचालित किया जा सकता है। हाल ही में, अमेरिकी राज्य के प्रतिनिधि ग्रेग कैसार ने चेतावनी दी कि एआई बहुत तेजी से प्रगति कर रहा है, बिना प्रभावी विनियमन के जो सुरक्षा सुनिश्चित करे।