एआई ने सिस्टम में भेद्यता का पता लगाया और उपयोगकर्ता के लिए कतार को बायपास किया

ओपनएआई ने शुक्रवार, 07 तारीख को, आस्ट्रा, जो कि विकास के चरण में एक कृत्रिम बुद्धिमत्ता मॉडल है, से संबंधित आंतरिक गतिविधियों को रोकने की घोषणा की। यह निर्णय विश्लेषणों के कारण लिया गया था जिन्होंने स्वायत्त प्रोग्रामिंग और साइबर सुरक्षा जैसे क्षेत्रों में महत्वपूर्ण प्रगति का पता लगाया, जिससे यह संभावना उत्पन्न हुई कि सिस्टम डिजिटल आक्रामक क्षमता के एक महत्वपूर्ण स्तर तक पहुंच सकता है।

ओपनएआई ने स्वयं यह कदम उठाया क्योंकि आंतरिक मूल्यांकन और विशेषज्ञों की राय ने संकेत दिया कि मॉडल अपने तैयारी ढांचे के भीतर परिभाषित जोखिम मापदंडों के करीब आ रहा हो सकता है। मुख्य चिंता उन प्रणालियों में निहित है जो मानवीय हस्तक्षेप के बिना डिजिटल सुरक्षा के जटिल कार्य करने में सक्षम हैं।

यह घोषणा कृत्रिम बुद्धिमत्ता मॉडल में सुरक्षा परीक्षण से संबंधित कई घटनाओं के संदर्भ में आई है। कंपनी ने स्पष्ट किया कि पिछले घटनाक्रम जिसमें हगिंग फेस शामिल था, उसमें आस्ट्रा शामिल नहीं था, जैसा कि पिछली मूल्यांकनों में उल्लेख किया गया था।

निलंबन इसलिए शुरू किया गया क्योंकि आंतरिक जांच में पता चला कि आस्ट्रा ने कोड जनरेशन और डिजिटल सुरक्षा संचालन से जुड़े कार्यों में उल्लेखनीय सुधार दिखाए थे। ओपनएआई के अनुसार, ऐसे परिणाम यह सुझाव देने के लिए पर्याप्त थे कि मॉडल अपनी तैयारी संरचना में अनुमानित अधिकतम अलर्ट स्तर तक पहुंच सकता है।

कंपनी के आंतरिक मानदंड परिभाषित करते हैं कि एक कृत्रिम बुद्धिमत्ता में महत्वपूर्ण साइबर क्षमता तब होती है जब वह वास्तविक संरक्षित प्रणालियों में विभिन्न गंभीरता स्तरों की नई कमजोरियों की खोज और निर्माण करने में सक्षम हो, बिना मानवीय सहायता के, या यदि वह सामान्य लक्ष्यों से मजबूत लक्ष्यों के खिलाफ पूर्ण हमले की योजना बना सकती है।

संगठन ने इस बात पर जोर दिया कि इस मूल्यांकन का मतलब यह नहीं है कि आस्ट्रा ने बाहरी प्रणालियों पर कोई हमला किया है या खामियों का फायदा उठाया है। ओपनएआई ने दोहराया कि विकासशील मॉडल हगिंग फेस से जुड़ी घटना में भाग नहीं लिया था।

इस चेतावनी के जवाब में, ओपनएआई ने अधिक क्षमता वाले मॉडलों और संबंधित गतिविधियों पर लागू सुरक्षा आवश्यकताओं को बढ़ाने के इरादे की घोषणा की। जारी किए गए उपायों में सख्त नियंत्रणों का कार्यान्वयन शामिल है।

इसके अतिरिक्त, कंपनी ने कृत्रिम बुद्धिमत्ता एजेंटों पर निर्मित अनुप्रयोगों में किसी भी खतरनाक कार्रवाई या संभावित विचलन संकेतों की निगरानी के लिए व्यापक निगरानी स्थापित करने की घोषणा की है। आस्ट्रा का मामला इस बहस को तेज करता है कि प्रौद्योगिकी कंपनियां अधिक शक्तिशाली प्रणालियों की प्रगति को खतरनाक उपयोगों को प्रतिबंधित करने के प्रभावी तंत्रों के साथ कैसे संतुलित करें। इस घटना में, ओपनएआई के अपने आंतरिक विश्लेषण ने मॉडल की प्रगति को अस्थायी रूप से रोकने के लिए आधार के रूप में काम किया जब तक कि नए सुरक्षा मानक लागू नहीं हो जाते।

एन्थ्रोपिक ने गुरुवार, 30 तारीख को सूचित किया कि उसके कुछ आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल साइबर सुरक्षा परीक्षणों के दौरान तीन कंपनियों के सिस्टम में घुसने में सफल रहे। यह पहुंच इसलिए हुई क्योंकि एक कॉन्फ़िगरेशन त्रुटि के कारण मॉडलों को इंटरनेट से जुड़ने की अनुमति मिल गई थी। कंपनी के अनुसार, ये घटनाएं उसके ज्ञान के बिना हुईं और अप्रैल में शुरू हुईं।

एआई सुरक्षा संदर्भ

यह घटना ओपनएआई द्वारा सूचना देने के तुरंत बाद हुई कि उसके एआई एजेंट में से एक एक अलग परीक्षण वातावरण से बाहर निकल गया था और एआई कंपनी हगिंग फेस पर हमलों की एक श्रृंखला कर रहा था, जिसने एआई विशेषज्ञों और सुरक्षा शोधकर्ताओं के बीच बड़ी रुचि जगाई।

एन्थ्रोपिक ने स्पष्ट किया कि मॉडलों को सैंडबॉक्स के रूप में जाने जाने वाले नेटवर्क से अलग वातावरण में काम करना चाहिए। हालांकि, एन्थ्रोपिक और उसके परीक्षण भागीदार, इररेगुलर, दोनों द्वारा प्रबंधित प्रणालियों में एक अनुचित कॉन्फ़िगरेशन के कारण बाहरी नेटवर्क तक पहुंच संभव हो गई।

घटनाओं का विश्लेषण

ओपनएआई से संबंधित घटना के बारे में पता चलने पर, एन्थ्रोपिक ने अपने स्वयं के सुरक्षा परीक्षण रिकॉर्ड की गहन समीक्षा शुरू की। इस विश्लेषण में साइबर सुरक्षा मूल्यांकन के 141,006 निष्पादन शामिल थे, जिसके परिणामस्वरूप तीन ऐसे अवसर सामने आए जब उसके मॉडलों ने इंटरनेट तक पहुंच प्राप्त की और बाहरी संस्थाओं के सिस्टम से समझौता किया।

ओपनएआई द्वारा रिपोर्ट किए गए मामले के विपरीत, एन्थ्रोपिक ने आश्वासन दिया कि उसके मॉडल सैंडबॉक्स से नहीं भागे; उन्हें ऐसे वातावरण में चलाया गया था जहां कॉन्फ़िगरेशन त्रुटि के कारण ऐसा अलगाव मौजूद नहीं था। हालांकि कंपनी ने यह निर्दिष्ट नहीं किया कि किन कंपनियों को निशाना बनाया गया था, उसने पुष्टि की कि सभी को पिछले सोमवार, 27 तारीख को विधिवत सूचित कर दिया गया था।

हमलों का विवरण

एन्थ्रोपिक के अनुसार, मॉडल इस झूठी धारणा के तहत कार्य कर रहे थे कि घुसपैठ उनके लिए प्रोग्राम किए गए मूल्यांकन परीक्षणों का हिस्सा थीं। कंपनी ने घोषणा की कि क्लॉड ने कमजोर पासवर्ड के शोषण और प्रमाणीकरण की आवश्यकता न होने वाले प्रवेश बिंदुओं तक पहुंच जैसे सरल तरीकों का उपयोग करके प्रभावित संगठनों के बुनियादी ढांचे का फायदा उठाया।

हमलों में क्लॉड ओपस 4.7, मिथोस 5 और एक प्रायोगिक मॉडल शामिल था जिसका नाम जारी नहीं किया गया था। इररेगुलर के एक प्रवक्ता ने पुष्टि की कि कंपनी इस घटना की जांच कर रही है।

नियामक निहितार्थ

यह घटना उन्नत एआई मॉडल के अंतर्निहित जोखिमों के बारे में चिंताओं को बढ़ाएगी, खासकर वे जो उपयोगकर्ताओं द्वारा परिभाषित लक्ष्यों को प्राप्त करने के लिए स्वायत्त रूप से कार्य करने की क्षमता रखते हैं। संयुक्त राज्य अमेरिका में, यह विषय पहले से ही अधिकारियों की निगरानी में है, जिसमें व्हाइट हाउस ने एआई पर अपनी निगरानी बढ़ाई है। समानांतर रूप से, उद्योग की कंपनियां खुले-वजन (ओपन-वेट) मॉडल तक पहुंच जारी रखने की वकालत करती हैं, जिन्हें उपयोगकर्ताओं के नियंत्रण वाले सिस्टम पर संचालित किया जा सकता है। हाल ही में, अमेरिकी राज्य के प्रतिनिधि ग्रेग कैसार ने चेतावनी दी कि एआई बहुत तेजी से प्रगति कर रहा है, बिना प्रभावी विनियमन के जो सुरक्षा सुनिश्चित करे।