ओपनएआई के आर्टिफिशियल इंटेलिजेंस मॉडल ने परीक्षण वातावरण से भागकर हगिंग फेस वेबसाइट पर हमला किया

यह घटना 'सैंडबॉक्स' नामक एक बंद वातावरण में हुई, जो ओपनएआई के सबसे शक्तिशाली मॉडल, जीपीटी-5.6 सोल, और उसके अभी तक जारी न किए गए उत्तराधिकारी की क्षमताओं का मूल्यांकन करने के लिए डिज़ाइन किया गया है। हालांकि ओपनएआई नियमित रूप से इस तरह के बंद परीक्षण करता है, इस बार एक खराबी हुई।

मॉडलों को सॉफ्टवेयर में कमजोरियों की तलाश करने का काम सौंपा गया था, लेकिन उन्हें किसी भी सुरक्षा बाधा से सीमित नहीं किया गया था, जिसके कारण वे खुले इंटरनेट में निकल गए और हगिंग फेस पर हमला किया - वह प्लेटफॉर्म जहां डेवलपर्स कोड संग्रहीत और साझा करते हैं।

स्थिति का विशेषज्ञ मूल्यांकन

पैलिसेड रिसर्च के निदेशक जेफ्री लाडीश, एक स्वतंत्र संगठन जो साइबर सुरक्षा के दृष्टिकोण से नए एआई मॉडलों का मूल्यांकन करता है, ने टिप्पणी की कि यह इंगित करता है कि लोग इन मॉडलों को कितनी विश्वसनीय रूप से नियंत्रित करना जानते हैं या उन्हें रचनाकारों के इरादों के अनुसार कार्य करने के लिए कैसे मजबूर करना जानते हैं। उन्होंने आगे कहा कि मॉडलों ने महसूस किया कि ओपनएआई नहीं चाहता कि वे सैंडबॉक्स छोड़ें और दूसरी कंपनी को हैक करें, फिर भी उन्होंने ऐसा किया।

लाडीश ने यह भी उल्लेख किया कि ऐसी घटना अकेली नहीं है। मार्च में, चीनी अलीबाबा से जुड़े डेवलपर्स ने पाया कि उनके एक मॉडल ने बाहरी सर्वर से अनधिकृत कनेक्शन के बाद स्वचालित रूप से क्रिप्टोकरेंसी निकालने की कोशिश की। ओपनएआई के मामले में, लाडीश के अनुसार, मॉडल को इंटरनेट एक्सेस का उपयोग करने की योजना बनाने से पहले ही भागने में कामयाब रहा।

उन्होंने इस बात पर जोर दिया कि मॉडल की 'स्वतंत्रता' की इच्छा लगभग अनुमान लगाने योग्य होती जा रही है, क्योंकि यह सिस्टम को अपने लक्ष्यों को अधिक प्रभावी ढंग से प्राप्त करने की अनुमति देता है, जिससे गंभीर चिंता उत्पन्न होती है। इसके अलावा, अप्रैल की शुरुआत में, एंथ्रोपिक में मॉडल सुरक्षा प्रमुख सैम बाउमन को अपनी ही कंपनी के मॉडल मिथोस से एक ईमेल प्राप्त हुआ - जो परीक्षण में था - जिसमें बताया गया था कि वह इंटरनेट ब्राउज़ कर रहा है, भले ही उसे शुरू में उससे अलग रखा गया था।

लाडीश ने निष्कर्ष निकाला कि ऐसे मामलों को पूरी तरह से रोकना 'असंभव' है, और स्थिति आसान होने के बजाय जटिल होती जाएगी, क्योंकि मॉडल अपने व्यवहार को छिपाने में बेहतर होते जाएंगे। ओपनएआई ने टिप्पणी के अनुरोध का जवाब नहीं दिया।

सुरक्षा आवश्यकताएँ

ओपनएआई के अनुसार, स्टार्टअप ने इतनी जल्दी हैकिंग का पता नहीं लगाया कि वह कार्रवाई कर सके या हगिंग फेस को चेतावनी दे सके। जॉर्जिया विश्वविद्यालय के सेंटर फॉर सिक्योरिटी एंड न्यू टेक्नोलॉजीज के एंड्रयू लोन ने कहा कि इस घटना की 'अधिक गहन जांच' की आवश्यकता है। ओपनएआई ने बताया कि तब से उसने अपनी परीक्षण प्रक्रिया में 'मजबूत निवारक उपाय' जोड़े हैं।

इलिनोइस विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर गैंग वान ने समाधानों में से एक के रूप में इंटरनेट कनेक्शन को पूरी तरह से बंद करने का सुझाव दिया। उन्होंने चेतावनी दी कि लोग एआई की क्षमता को कम आंकते हैं। लोन का मानना है कि परीक्षण वातावरण को बायो-कंटेनमेंट प्रयोगशालाओं के रूप में देखा जाना चाहिए, जहां वायरस या बैक्टीरिया दुनिया में निकल सकते हैं।

हालांकि, जैसा कि साइबर सुरक्षा फर्म इररेगुलर के प्रमुख डैन लाहव ने उल्लेख किया, यह जितना लगता है उससे कहीं अधिक कठिन हो सकता है। लाहव ने कहा कि जोखिम प्रबंधन संभव है, लेकिन जैसे-जैसे इन प्रणालियों की क्षमता बढ़ती है, उन पर नियंत्रण करना कठिन होता जाता है। शोधकर्ताओं को सक्रिय रूप से मॉडलों का परीक्षण करने और प्रक्रिया के दौरान सुरक्षा सुनिश्चित करने के बीच संतुलन खोजना होगा।

लोन ने भविष्य की क्षमताओं को पहले से समझने के लिए कम प्रतिबंधों के साथ परीक्षण करने के महत्व पर जोर दिया।

कानूनी पहल

ओपनएआई और हगिंग फेस के बीच की घटना वाशिंगटन में शक्तिशाली एआई सिस्टम को जारी करने से पहले उनकी जांच की आवश्यकता पर पहले से चल रही बहस को मजबूत करती है। ट्रम्प प्रशासन ने हाल ही में एंथ्रोपिक और ओपनएआई से शक्तिशाली नए मॉडलों की रिलीज को रोकने के लिए राष्ट्रीय सुरक्षा का हवाला दिया था।

गुरुवार को दो कांग्रेस सदस्यों ने एक द्विदलीय विधेयक पेश किया, जो सबसे शक्तिशाली एआई मॉडल के डेवलपर्स को 'आपातकालीन शटडाउन' लागू करने के लिए बाध्य करता है - मॉडल को पूरी तरह से बंद करने की एक तंत्र। एलायंस फॉर सिक्योर एआई के प्रमुख ब्रेंडन स्टेनौज़र ने कहा कि कांग्रेस को तुरंत कार्रवाई करनी चाहिए ताकि यह सुनिश्चित हो सके कि लोग हमेशा इन प्रणालियों को रोक सकें, चाहे उनकी शक्ति कुछ भी हो।