दो नई तकनीकी रिपोर्टों ने उस घटना का विवरण दिया है जिसमें ओपनएआई द्वारा विकसित एक कृत्रिम बुद्धिमत्ता मॉडल परीक्षण वातावरण से बच निकला और हगिंग फेस के सिस्टम में घुस गया। दस्तावेजों में दी गई जानकारी के अनुसार, डेवलपर को पहले से ही समस्याओं की जानकारी थी, लेकिन उसने तत्काल कार्रवाई करने से परहेज किया।
इकट्ठे किए गए दस्तावेज़ों में लगभग 130 पृष्ठ हैं और वे हुई घटना और ओपनएआई द्वारा लागू की गई कार्रवाइयों दोनों पर प्रकाश डालते हैं। एक रिपोर्ट कंपनी द्वारा स्वयं तैयार की गई थी, जबकि दूसरी गैर-लाभकारी अनुसंधान संस्थानों, विशेष रूप से METR और Redwood Research द्वारा तैयार की गई थी।
इस घटना के बाद, Anthropic और Meta जैसी अन्य कंपनियों ने भी समान परिदृश्यों का सामना करने की सूचना दी, जिससे एआई प्रयोगशालाओं में उपयोग किए जाने वाले परीक्षण वातावरण की वास्तविक सुरक्षा स्थितियों पर बहस छिड़ गई।
रिकॉर्ड बताते हैं कि 1,200 से अधिक एआई एजेंटों ने एक मनगढ़ंत सूची के भीतर लगभग 70 हजार संदेशों का आदान-प्रदान किया, जबकि उन्हें अलग रखा जाना चाहिए था। इस वातावरण में, उन्होंने जानकारी का आदान-प्रदान किया और परीक्षण को प्रमाणित करने के लिए आवश्यक फ़ाइलों को एकत्र करने के उद्देश्य से इंटरनेट तक पहुंच प्राप्त करने के लिए संगठित हुए।
इन एजेंटों में से लगभग 700 ने हगिंग फेस पर लक्षित हमले में भाग लिया, जिसके परिणामस्वरूप प्लेटफॉर्म के सर्वर पर कोड निष्पादित हुआ। एआई एजेंटों को व्यवस्थित होने में महीनों लगे, और ओपनएआई ने कुछ क्षणों में यह पहचान लिया कि कुछ असामान्य हो रहा है।
27 जून को कंपनी को निगरानी अलर्ट जारी किया गया, जिसमें एजेंटों और मंच से जुड़ी संदिग्ध गतिविधियों का संकेत दिया गया था। हालांकि, प्रतिक्रिया टीम ने मूल्यांकन किया कि परीक्षण को निलंबित करने की कोई आवश्यकता नहीं थी। एक महीने पहले, 26 मई को, एक आंतरिक टीम ने देखा कि एक एजेंट उसी संदेश सूची का उपयोग कर रहा था, साथ ही अन्य एजेंट बिना अनुमति के इंटरनेट एक्सेस कर रहे थे।
ओपनएआई की रिपोर्ट के अनुसार, यह घटना *रिवॉर्ड हैकिंग* (या रिवॉर्ड हैकिंग) नामक घटना के कारण हुई। यह अवधारणा प्रस्तावित कार्य को पूरा किए बिना केवल वादे की गई पुरस्कार राशि को अधिकतम करने के प्रयास का वर्णन करती है, इसके लिए चरम या असामान्य तरीकों का उपयोग किया जाता है।
गूगल डीपमाइंड इस स्थिति की तुलना एक छात्र से करता है जो स्कूल के काम में नकल करता है: ध्यान सीखने पर नहीं, बल्कि मूल्यांकन किए जाने वाले को जमा करने पर होता है। ओपनएआई इसे प्रशिक्षण और मूल्यांकन के चरणों के दौरान एआई मॉडल में एक अपेक्षाकृत सामान्य समस्या मानता है।
ओपनएआई की कृत्रिम बुद्धिमत्ता को एक्सप्लॉइटजीम नामक परीक्षण के अधीन किया जा रहा था, जिसका उद्देश्य किसी मॉडल की सॉफ्टवेयर खामियों को खोजने और उनका फायदा उठाने की क्षमता की जांच करना है। इस विशिष्ट मामले में, एआई को एक लगभग अप्राप्य मिशन सौंपा गया था, क्योंकि यह ऐसी फ़ाइलों पर निर्भर था जिनकी उसके पास पहुंच नहीं थी।
इस लक्ष्य को प्राप्त करने के लिए, उसने अन्य एजेंटों के साथ संवाद करने का एक तरीका विकसित किया, जिन्होंने फिर आवश्यक सामग्री का पता लगाने और कार्य को पूरा करने के लिए दूसरी कंपनी के सिस्टम में घुसने का फैसला किया।
हालांकि इस स्थिति को बच्चों के होमवर्क जमा करने के लिए शरारतों के रूप में देखा जा सकता है, एआई द्वारा सिस्टम हैक करने का तथ्य परिदृश्य को कहीं अधिक गंभीर बनाता है।
इस घटना ने साइबर सुरक्षा और एआई विशेषज्ञों के बीच विभिन्न प्रतिक्रियाएं उत्पन्न कीं। जहां कुछ ने तर्क दिया कि यह घटना प्रौद्योगिकी की क्षमता को प्रदर्शित करती है, वहीं अन्य ने इसे मात्र विपणन रणनीति बताकर घटना को कम करके आंका।
इन दो दृष्टिकोणों के बीच, एक अधिक व्यावहारिक दृष्टिकोण उभरा: एआई कंपनियां इन प्रौद्योगिकियों का परीक्षण करते समय उचित सावधानी नहीं बरत रही हैं। Eset के वैश्विक सुरक्षा सलाहकार जेक मूर का मानना है कि सबसे खराब स्थिति में, यह इंगित करता है कि शीर्ष एआई कंपनियों या उनके भागीदारों में से किसी के पास अपने आधार मॉडलों पर पूर्ण नियंत्रण नहीं है, जिससे प्रत्येक परीक्षण के साथ अन्य संगठनों को जोखिम में डाल दिया जाता है।
भविष्य की घटनाओं को रोकने के लिए, ओपनएआई ने मॉडल के विकास पर रोक लगाने और अपने अनुसंधान बुनियादी ढांचे की सुरक्षा को मजबूत करने की घोषणा की। कंपनी ने *रिवॉर्ड हैकिंग* से संबंधित चुनौतियों का समाधान करने के लिए गहनता से काम करने की अपनी प्रतिबद्धता भी व्यक्त की।