ओपनएआई ने ऐसे नए मामले पहचाने हैं जहां स्वायत्त कृत्रिम बुद्धिमत्ता (एआई) एजेंट कंटेनमेंट वातावरण से बच निकले हैं, जो आंतरिक रूप से किए गए परीक्षणों के दौरान हुए थे। यह खोज उस जांच का विस्तार करती है जो पहले ही हगिंग फेस प्लेटफॉर्म से जुड़ी घटना के बाद शुरू की गई थी, जैसा कि रॉयटर्स द्वारा संपर्क किए गए सूत्रों ने बताया।
विषय के जानकार दो व्यक्तियों ने बताया कि ये नई घटनाएं इस महीने कंपनी द्वारा अपने एक एजेंट के एक अलग वातावरण से बाहर निकलने के तरीके पर सार्वजनिक जांच के दौरान पता चलीं। इनमें से एक सूत्र के अनुसार, इन घटनाओं को सीमित माना जाता है, और इस बात का कोई सबूत नहीं है कि एजेंट ओपनएआई के आंतरिक नेटवर्क से बाहर निकले हों। कंपनी इन नई घटनाओं पर अतिरिक्त जांच कर रही है।
जब ओपनएआई से संपर्क किया गया, तो उसने मंगलवार (28) को जारी किए गए नोट पर ध्यान आकर्षित किया, जिसमें हगिंग फेस से संबंधित घुसपैठ के अलावा, 'अपने मॉडलों की व्यापक गतिविधि' का विश्लेषण करने का उल्लेख किया गया था।
विनियमन के लिए दबाव बढ़ने की संभावना
हालांकि नई घटनाओं को प्रतिबंधित वर्गीकृत किया गया था, लेकिन यह खोज एआई के विकास के लिए अधिक सख्त मानकों की मांग को बढ़ा सकती है। यह ऐसे समय में हो रहा है जब इस विषय पर व्हाइट हाउस और विभिन्न देशों के अधिकारियों दोनों का ध्यान जा रहा है।
सूत्रों ने संकेत दिया कि ओपनएआई ने अपनी मुख्य प्रतिद्वंद्वी, एंथ्रोपिक, द्वारा अप्रैल से तीन कंपनियों को प्रभावित करने वाले कई घुसपैठों के लिए कंपनी के मॉडलों के जिम्मेदार होने की स्वीकृति देने से ठीक पहले अपनी जांच का विस्तार किया। ओपनएआई के एजेंटों से जुड़ी पिछली घटनाओं की जानकारी अभी तक सार्वजनिक नहीं की गई थी।
विशेषज्ञ जोखिमों के प्रति आगाह करते हैं
एआई सुरक्षा विशेषज्ञों के लिए, ऐसे मामले इस चिंता को मजबूत करते हैं कि बड़े प्रयोगशालाएं नियंत्रण सुनिश्चित करने की दर से तेज गति से आक्रामक क्षमताओं वाले स्वायत्त एजेंट विकसित कर रही हैं। कैम्ब्रिज विश्वविद्यालय (इंग्लैंड) के सेंटर फॉर द स्टडी ऑफ एक्जिस्टेंशियल रिस्क के गणितज्ञ मॉरिस चियोडो ने रॉयटर्स को बताया कि एक ऐसा उद्योग मौजूद है जहां पेशेवर जो इन उपकरणों का निर्माण, विकास और वितरण करते हैं, वे उन्हें सुरक्षित रखने की जिम्मेदारी से तालमेल नहीं बिठा रहे हैं।
रॉयटर्स अतिरिक्त घटनाओं की सटीक संख्या या उनकी तारीखों की पुष्टि नहीं कर सका। तीन सूत्रों ने बताया कि ओपनएआई के जांचकर्ताओं और बाहरी विशेषज्ञों द्वारा तथ्यों को फिर से बनाने के लिए पिछले महीनों की गतिविधियों के रिकॉर्ड की जांच की जा रही है।
हगिंग फेस मामले ने जांच शुरू की
यह जांच ओपनएआई द्वारा जुलाई की शुरुआत में हुई घटना के बाद शुरू की गई थी, जब एक कंपनी के एजेंट ने अपने व्यवहार का आकलन करने के उद्देश्य से एक आंतरिक परीक्षण के दौरान हगिंग फेस के बुनियादी ढांचे में सेंध लगाई थी। ओपनएआई के अनुसार, एजेंट कॉर्पोरेट नेटवर्क के भीतर कई दिनों तक अप्रत्याशित तरीके से कार्य करता रहा।
इस घटना में, चार अलग-अलग कंपनियों से संबंधित चार खातों का भी उल्लंघन हुआ। इनमें से एक कंपनी न्यूयॉर्क स्थित मोडल थी। चियोडो ने इस संभावना पर गहरी चिंता व्यक्त की कि ओपनएआई और एंथ्रोपिक दोनों ही इन कार्यों को करते समय अपने एजेंटों की वास्तविक समय में निगरानी नहीं कर रहे थे।
इसके अतिरिक्त, ओपनएआई को तब तक घुसपैठ के बारे में पता नहीं चला जब तक कि हगिंग फेस घटना को नियंत्रित करने, एफबीआई को सूचित करने और मामले को सार्वजनिक करने में सफल नहीं हो गया। ओपनएआई ने दावा किया कि रिपोर्ट में गलतियाँ थीं, लेकिन यह निर्दिष्ट नहीं किया कि कौन सा डेटा गलत था।
गुरुवार (30) को, अपने स्वयं के मॉडलों से जुड़ी घटनाओं का विवरण जारी करते हुए, एंथ्रोपिक ने स्वीकार किया कि मूल्यांकन रिकॉर्ड की वास्तविक समय में निगरानी समस्या की पहचान जल्दी करने में सहायक हो सकती थी। चियोडो के लिए, यह एआई एजेंटों की निगरानी में विफलताओं को दर्शाता है, क्योंकि उन्होंने टिप्पणी की: 'ऐसा लगता है कि वे देख भी नहीं रहे थे'।
