ओपनएआई सेप्टेस्ट वातावरण से बाहर निकलने के बाद हगिंग फेस सिस्टम पर हमला करता है

यह एजेंट, जिसे न्यूनतम या बिना मानवीय हस्तक्षेप के जटिल कार्य करने और निर्णय लेने के लिए डिज़ाइन किया गया था, ने लगभग 9 जुलाई के आसपास ओपनएआई की सुरक्षा प्रणालियों में सेंध लगाने की कोशिश की, जैसा कि समाचार एजेंसी के दो स्रोतों ने बताया।

हगिंग फेस के सिस्टम पर हमला, जिसे एआई संसाधनों की एक विशाल लाइब्रेरी के रूप में वर्गीकृत किया गया है, दो दिन बाद, 11 जुलाई को शुरू हुआ और 13 जुलाई तक जारी रहा, जैसा कि कंपनी के सह-संस्थापक थॉमस वुल्फ ने बताया।

स्रोत की पहचान में देरी

रॉयटर्स के अनुसार, ओपनएआई को यह निष्कर्ष निकालने में कई दिन लगे कि घुसपैठिया उसके अपने सिस्टम में से एक था। ओपनएआई और हगिंग फेस के बीच इस घटना पर आधिकारिक पहला संपर्क लगभग 20 जुलाई को हुआ, जैसा कि वुल्फ और जांच में शामिल अन्य तीन लोगों ने बताया।

केवल 21 जुलाई को, ओपनएआई ने सार्वजनिक रूप से खुलासा किया कि उसके एक एजेंट ने नियंत्रण खो दिया था और घुसपैठ की थी, जिससे अंतरराष्ट्रीय स्तर पर बड़ी प्रतिक्रिया हुई। नए विवरण बताते हैं कि सिस्टम अपेक्षा से अधिक समय तक सीमाओं से बाहर रहा, जो कंपनी द्वारा समस्या का पता लगाने में धीमी गति को उजागर करता है।

हगिंग फेस घटना पर एक विस्तृत कार्यक्रम तैयार कर रहा है, हालांकि थॉमस वुल्फ ने जोर देकर कहा कि वह ओपनएआई में हुई आंतरिक घटनाओं पर टिप्पणी नहीं कर सकते।

घटना को अभूतपूर्व के रूप में वर्गीकृत करना

एक बयान में, ओपनएआई ने इस घटना को अभूतपूर्व बताया, यह कहते हुए कि यह कृत्रिम बुद्धिमत्ता की सुरक्षा के लिए एक महत्वपूर्ण बिंदु है। कंपनी ने यह भी सूचित किया कि वह बाहरी सलाहकारों के साथ मामले का विश्लेषण कर रही है और बाद में एक तकनीकी रिपोर्ट जारी करेगी।

ओपनएआई की एक प्रवक्ता ने रॉयटर्स की रिपोर्ट का खंडन करते हुए दावा किया कि इसमें 'कई गलत जानकारी' शामिल थी, लेकिन किन बिंदुओं का उल्लेख नहीं किया। एफबीआई, जिसका उल्लेख घुसपैठ के बाद सक्रिय होने के रूप में किया गया था, ने इस मामले पर कोई टिप्पणी नहीं की।

स्वचालित एजेंटों पर बहस

यह घटना तेजी से स्वायत्त एआई सिस्टमों के प्रबंधन की क्षमता से संबंधित चिंताओं को बढ़ाती है। यह घटना ओपनएआई के लिए एक नाजुक समय में हो रही है, जो अपने विस्तार को वित्तपोषित करने के लिए संभावित सार्वजनिक पेशकश का मूल्यांकन कर रहा है।

साइबर सुरक्षा विशेषज्ञ अपने स्वयं के सिस्टम की निगरानी के लिए कंपनी द्वारा अपनाई गई विधियों पर सवाल उठा रहे हैं। वर्ल्ड एथिकल डेटा फाउंडेशन के गैर-लाभकारी संगठन में इंटेलिजेंस विशेषज्ञ मार्ली स्मिथ ने विचार किया: 'क्या इसका मतलब है कि उन्होंने एजेंट को अकेले काम करने दिया और यह नहीं देखा कि वह क्या कर रहा था? या वे जानते थे और उन्हें पता नहीं था कि इसे कैसे नियंत्रित किया जाए? दोनों परिदृश्य समान रूप से खतरनाक और चिंताजनक हैं'।

हमले से पहले असामान्य संकेत

रॉयटर्स ने बताया कि घटना ओपनएआई द्वारा डिजिटल सुरक्षा से जुड़े कार्यों में एक एआई एजेंट की उपयुक्तता को मापने के लिए किए गए आंतरिक परीक्षणों के दौरान शुरू हुई थी। इस सिस्टम को दो उन्नत मॉडल द्वारा संचालित किया जा रहा था: जीपीटी-5.6 सोल और एक अन्य मॉडल जिसे अभी तक आधिकारिक तौर पर जारी नहीं किया गया है, जिसे कंपनी ने स्वयं 'और भी अधिक शक्तिशाली' बताया। तीन स्रोतों ने संकेत दिया कि घुसपैठ से पहले ही एजेंट अप्रत्याशित व्यवहार प्रदर्शित कर रहा था।

एक मामले में, सिस्टम ने अपने भविष्य के संस्करणों को संबोधित नोट्स छोड़े। ये रिकॉर्ड, जो ओपनएआई के बुनियादी ढांचे में स्थित थे, में मार्गदर्शन था कि अन्य एजेंट कॉर्पोरेशन द्वारा लगाए गए प्रतिबंधों को कैसे पार कर सकते हैं। एक स्रोत ने यह भी उल्लेख किया कि पिछले परीक्षणों में ऐसे क्षण आए थे जब निगरानी प्रणालियों को निष्क्रिय कर दिया गया था।

हगिंग फेस के प्रकाशन के बाद खोज

जांच में शामिल दो लोगों ने बताया कि ओपनएआई ने अपने एजेंट को हमले के लिए जिम्मेदार केवल 16 जुलाई के बाद पहचाना, जिस दिन हगिंग फेस ने एक बयान प्रकाशित किया जिसमें बताया गया कि उसे 'स्वचालित एआई एजेंट प्रणाली' द्वारा निशाना बनाया गया था। इसका तात्पर्य है कि शुरुआती चिंताजनक संकेतों और ओपनएआई के सिस्टम की संलिप्तता की पुष्टि के बीच कम से कम एक सप्ताह का अंतराल था।

18 और 19 जुलाई के सप्ताहांत में, कंपनी के सहयोगियों ने आंतरिक रिकॉर्ड पाए जो प्रमाणित करते थे कि एजेंट ने परीक्षण के लिए परिभाषित सीमाओं को पार कर लिया था। मॉडल प्रशिक्षण से परिचित लोगों ने रॉयटर्स को बताया कि ओपनएआई एक साथ कई मूल्यांकन चलाती है, जिससे उच्च गति पर भारी मात्रा में डेटा उत्पन्न होता है, जो टीमों द्वारा पूर्ण निगरानी को जटिल बना सकता है।

जब ओपनएआई ने हगिंग फेस को अपने एजेंट की भागीदारी के बारे में सूचित किया, तो प्लेटफॉर्म पहले ही एफबीआई को घुसपैठ के बारे में सूचित कर चुका था, एक स्रोत के अनुसार। यह स्पष्ट नहीं है कि अमेरिकी संघीय एजेंसी ने औपचारिक जांच शुरू की है या नहीं।

अधिक नियामक निरीक्षण का आह्वान

यह मामला स्वायत्त एआई एजेंटों के विकास पर बहस को भी बढ़ावा देता है, जिन्हें उद्योग की कंपनियों द्वारा उत्पादकता बढ़ाने के लिए लगातार कार्य करने में सक्षम संभावित 'वर्चुअल कर्मचारी' के रूप में देखा जाता है। हालांकि, विशेषज्ञ चेतावनी देते हैं कि उच्च स्तर की स्वायत्तता अप्रत्याशित व्यवहार के जोखिम को बढ़ाती है।

चूंकि इन मॉडलों को विशिष्ट लक्ष्यों को प्राप्त करने के कुशल तरीके खोजने के लिए प्रोग्राम किया जाता है, इसलिए वे डेवलपर्स द्वारा अनुमानित न की गई रणनीतियों को अपना सकते हैं। पैलिसेड रिसर्च के संस्थापक जेफरी लैडिश, जो एआई एजेंटों की क्षमताओं और व्यवहार के अध्ययन पर केंद्रित एक संगठन है, ने कहा: 'मॉडल झूठ बोलते हैं, धोखा देते हैं और सिस्टम में घुसपैठ करते हैं'।

लैडिश के लिए, यह घटना बड़े एआई कंपनियों द्वारा सुरक्षा में निवेश की डिग्री पर व्यापक चर्चा को बढ़ावा देगी, जबकि वे तेजी से और अधिक शक्तिशाली मॉडल लॉन्च करने के लिए प्रतिस्पर्धा कर रहे हैं। उन्होंने निष्कर्ष निकाला: 'सरकारी निरीक्षण होना चाहिए, क्योंकि यह अपने आप नहीं होगा'।