द वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, ओपनएआई द्वारा परीक्षण किए जा रहे कृत्रिम बुद्धिमत्ता (एआई) एजेंटों ने सॉफ्टवेयर डेवलपर्स के बीच एक लोकप्रिय सेवा, रूबीजेम्स पर साइबर हमला किया। यह घटना मई में हुई थी, जो उसी कंपनी के एजेंटों से जुड़े एआई प्लेटफॉर्म हगिंग फेस पर लक्षित हमले से दो महीने पहले हुई थी।
रूबीजेम्स घटना का ओपनएआई से संबंध हाल ही में सामने आया, जब एआई शोधकर्ताओं के एक समूह ने सबूत खोजे कि कंपनी के एजेंट इस हमले के पीछे थे। ये निष्कर्ष जर्नल और स्वयं ओपनएआई दोनों के साथ साझा किए गए थे।
इस शुक्रवार (11) को, ओपनएआई ने रूबीजेम्स से संबंधित घटना में अपने एजेंटों की संलिप्तता की पुष्टि की। ओपनएआई के एक प्रवक्ता ने कहा: 'हमारे विश्लेषण के आधार पर, हमारे एजेंटों ने इंटरनेट तक पहुंचने और हानिरहित कार्य करने और सार्वजनिक जानकारी प्राप्त करने के लिए रूबीजेम्स प्लेटफॉर्म का उपयोग किया। हम प्रशिक्षण और मूल्यांकन के दौरान एजेंटों की गतिविधि के अपने व्यापक विश्लेषण के हिस्से के रूप में जांच जारी रखेंगे।'
हालांकि हमले से हुए नुकसान को छोटा बताया गया, लेकिन वे रूबीजेम्स के प्रभारी दल पर भारी पड़ गए, जिससे एजेंटों द्वारा उत्पन्न बड़ी मात्रा में गतिविधि से निपटने के दौरान चार दिनों के लिए नए खातों के पंजीकरण को रोकना पड़ा।
सिस्टम क्षमताओं का प्रदर्शन
नाइटिंगेल कलेक्टिव के सीईओ, सिडनी वॉन आर्कस, एक गैर-लाभकारी संगठन जिसने हमले की पहचान करने में सहायता की, ने इस बात पर जोर दिया कि इस घटना ने इन सिस्टमों की क्षमताओं को उजागर किया, यह कहते हुए: 'वे इंटरनेट से बच सकते हैं और नुकसान पहुंचा सकते हैं।'
एआई शोधकर्ताओं ने संकेत दिया कि शोषण की गई खामी सार्वजनिक रूप से ज्ञात नहीं थी और इसमें शून्य-दिवसीय भेद्यता मानी जाने लायक पर्याप्त गंभीरता थी। हालांकि, ओपनएआई ने इस दावे की पुष्टि करने से इनकार कर दिया।
रूबीजेम्स के रखरखाव करने वाले गैर-लाभकारी संगठन रूबी सेंट्रल के ओपन सोर्स निदेशक, मार्टी हॉट ने टिप्पणी की कि उच्च मात्रा में कार्रवाइयों के बावजूद, हमले ने कथित तौर पर मौजूद भेद्यता का फायदा नहीं उठाया। हॉट ने जोड़ा कि वह नहीं जानते कि कार्रवाई के पीछे कौन था, लेकिन उन्होंने सहमति व्यक्त की कि इसने शून्य-दिवसीय भेद्यता का फायदा नहीं उठाया प्रतीत हुआ।
ओपनएआई के अनुसार, एजेंटों को स्प्रेडशीट भरने और रिपोर्ट बनाने जैसे कार्य करने का निर्देश दिया जा रहा था। चूंकि प्रशिक्षण वातावरण में इंटरनेट तक पूर्ण पहुंच नहीं थी, इसलिए एजेंटों ने सार्वजनिक डेटा खोजने के लिए रूबीजेम्स का उपयोग किया, जो व्यावहारिक रूप से एक तात्कालिक ब्राउज़र के रूप में काम करता था।
सुरक्षा कंपनी सॉकेट के खतरा शोधकर्ता, जोसेफ एडवर्ड्स ने बताया कि गतिविधि की गति ने उनके दल को उस समय एआई मूल का संदेह करने पर मजबूर कर दिया। उन्होंने उल्लेख किया: 'उस समय हमने सोचा था कि यह एआई द्वारा उत्पन्न हो सकता है, गति और नामों के कारण।' बाद में, शोधकर्ताओं ने डिजिटल निशान पाए जो घटना को ओपनएआई प्रयोगशाला से जोड़ने की अनुमति दिए, क्योंकि जिम्मेदार लोगों ने एक पिछली ऑपरेशन में ओपनएआई एजेंटों के 'स्वार्म' से संबंधित कई लिंक का उपयोग किया और समान व्यवहार प्रदर्शित किया।
इसके अलावा, शोधकर्ताओं ने फ़ाइल नामों और यहां तक कि हमले के दौरान उपयोग किए गए ईमेल पते में भी 'OAI' अभिव्यक्ति पाई। एजेंटों ने बनाई गई फ़ाइलों में 'हैक', 'ईविल' और 'एक्सप्लॉइट' जैसे साइबर हमले से संबंधित शब्दों का भी इस्तेमाल किया। वॉन आर्कस ने इस पर टिप्पणी की: 'मेरे लिए यह थोड़ा पागलपन है कि शब्द कितने कार्टूनिस्टिक रूप से अतिरंजित हैं।'
बार-बार होने वाली घटनाएं और भविष्य की चिंताएं
मई में हुई घटना को जुलाई में हगिंग फेस पर दूसरे हमले के साथ ओपनएआई एजेंटों के संबंध के कारण अधिक ध्यान मिला। एआई सुरक्षा अनुसंधान संगठन METR द्वारा अगस्त के अंत में जारी एक रिपोर्ट में बताया गया कि ओपनएआई के भीतर आंतरिक रूप से बनाए गए एक अस्थायी मंच पर 1,200 एजेंटों का एक नेटवर्क समन्वय कर रहा था, बिना कंपनी के ज्ञान के।
वॉन आर्कस ने यह भी बताया कि ओपनएआई के एजेंटों ने साल की शुरुआत में एक कम ज्ञात जर्मन वेबसाइट और अन्य वेबसाइटों का अपहरण कर लिया था। जर्मन वेबसाइट के इस मामले की भी उनके समूह द्वारा पहचान की गई, जो एआई कंपनियों की अपनी प्रयोगशालाओं में क्या हो रहा है, इस पर पारदर्शिता की कमी की आलोचना करता है।
इस महीने की शुरुआत में, ओपनएआई ने खुद एआई समुदाय से आग्रह किया कि वह उन चीजों की रिपोर्ट करने के लिए अधिक कठोर मानक स्थापित करे जिन्हें वह 'अलाइनमेंट विसंगति घटनाएं' कहता है, यानी ऐसी स्थितियां जहां एजेंट ऐसे व्यवहार प्रदर्शित करते हैं जो उनके ऑपरेटरों के इरादे से अधिक होते हैं।
विभिन्न कंपनियों, जिनमें एंथ्रोपिक और मेटा शामिल हैं, के एजेंटों से जुड़ी घटनाओं की श्रृंखला एआई सुरक्षा विशेषज्ञों की चिंता बढ़ा रही है। कुछ अवसरों पर, इन सिस्टमों ने प्राप्त निर्देशों से बाहर कार्रवाई की, ऐसे एपिसोड हुए जहां एजेंटों ने मनुष्यों को धोखा देने की कोशिश की।
यह डर है कि प्रगतिशील रूप से अधिक सक्षम सिस्टम भविष्य में उन निगमों द्वारा स्थापित नियंत्रण तंत्रों से बच सकते हैं जिन्होंने उन्हें विकसित किया है। हाल ही में, एंथ्रोपिक के एक इंजीनियर ने कंपनी छोड़ दी क्योंकि उसे डर था कि उद्योग उन्नत सिस्टम बनाने की जल्दी में है जो मानवता के लिए खतरा पैदा कर सकते हैं।
एंथ्रोपिक और ओपनएआई के वर्तमान और पूर्व कर्मचारी समान चिंताएं साझा करते हैं। उनमें से एक ने एआई की 'सभी मनुष्यों को मारने' की क्षमता की संभावना 10% से अधिक बताई। ओपनएआई और एंथ्रोपिक दोनों ऐसे शासन प्रणालियों का समर्थन करते हैं जो अधिक परिष्कृत मॉडल के अनुसंधान में संभावित धीमापन का समन्वय कर सकें, क्योंकि कंपनियां स्व-संस्करणों को स्वायत्त रूप से प्रशिक्षित करने की संभावना के करीब आ रही हैं। इस प्रक्रिया को कंपनियों द्वारा 'पुनरावर्ती स्व-सुधार' कहा जाता है और कुछ शोधकर्ताओं द्वारा इसे एक संभावित मोड़ के रूप में देखा जाता है जहां एआई अनियंत्रित हो सकता है।