ओपनएआई द्वारा विकसित एक कृत्रिम बुद्धिमत्ता (एआई) एजेंट ने जून में कंपनी द्वारा किए गए परीक्षण के दौरान ऑस्ट्रेलिया की सार्वजनिक स्वास्थ्य प्रणाली, मेडिकेयर के सार्वजनिक सांख्यिकी पोर्टल तक अनधिकृत पहुंच प्राप्त की। इस घटना ने ऑस्ट्रेलियाई सरकार को यह पता लगाने के लिए एक विस्तृत जांच शुरू करने के लिए प्रेरित किया कि किन प्रणालियों तक पहुंचा गया और किस प्रकार की जानकारी प्राप्त की गई।
ऑस्ट्रेलियाई प्रधानमंत्री, एंथनी अल्बानीज ने इस घटना को 'अत्यधिक चिंता का विषय' बताया और पुष्टि की कि सरकार को घटना के बारे में पता चलने और कंपनी से एजेंट द्वारा किए गए एक्सेस के बारे में पूछताछ करने के बाद उन्होंने व्यक्तिगत रूप से ओपनएआई के सीईओ, सैम अल्टमैन से बात की।
ओपनएआई ने समझाया कि यह घटना उनके मॉडलों के आंतरिक मूल्यांकन के दौरान हुई थी, जिसका उद्देश्य ऑस्ट्रेलिया से संबंधित सांख्यिकी और उत्तरों को खोजने की प्रणालियों की क्षमता का परीक्षण करना था। हालांकि, इस मूल्यांकन के दौरान, मॉडलों ने ऐसे कार्य किए जो संगठन द्वारा अनुमानित नहीं थे।
सरकारी फोरेंसिक जांच
सरकार ने घटना के दायरे को निर्धारित करने और यह जांचने के लिए एक फोरेंसिक जांच शुरू की कि क्या अन्य प्रणालियों पर प्रभाव पड़ा है। इस विश्लेषण में ऑस्ट्रेलियाई सिग्नल निदेशालय का सहयोग शामिल है, जो देश की साइबर सुरक्षा और खुफिया एजेंसी है। जांच का उद्देश्य यह स्पष्ट करना है कि किन प्रणालियों को निशाना बनाया गया, किन दस्तावेजों की समीक्षा की गई और क्या सांख्यिकी पोर्टल पर उपलब्ध डेटा के अलावा कोई समझौता हुआ है।
इसके अलावा, सरकार यह समझने की कोशिश कर रही है कि एजेंट ओपनएआई द्वारा किए गए परीक्षण के दौरान अपेक्षित प्रतिबंधों को कैसे पार करने में कामयाब रहा।
ऑस्ट्रेलियाई सरकार की चिंताएं
अल्बानीज ने इस बात पर विशेष चिंता व्यक्त की कि ओपनएआई ने इस घटना का प्रबंधन कैसे किया, यह उल्लेख करते हुए कि सरकार को घटना के बारे में सूचित करने में देरी हुई थी। उन्होंने सीधे अल्टमैन के सामने अपनी चिंता व्यक्त की, जबकि ऑस्ट्रेलियाई अधिकारी एजेंट द्वारा किए गए एक्सेस के बारे में अधिक विवरण की तलाश कर रहे थे।
सरकार की चिंता केवल इस अलग घटना तक ही सीमित नहीं है, बल्कि एआई सिस्टम की कार्यों को तेजी से स्वायत्त तरीके से करने की बढ़ती क्षमता तक फैली हुई है।
ओपनएआई ने दोहराया कि एक्सेस ऑस्ट्रेलिया के सांख्यिकीय डेटा के बारे में जानकारी खोजने और सवालों का जवाब देने के लिए अपने मॉडलों का परीक्षण करने पर केंद्रित मूल्यांकन के दौरान हुआ था। हालांकि, मॉडल ने ऐसे कार्य किए जो परीक्षण टीम द्वारा नियोजित व्यवहार से हटकर थे। कंपनी ने विभिन्न सरकारी साइटों और सेवाओं पर गतिविधियों की पहचान की और कहा कि उसने मामले की जांच की है, लेकिन रोगी रिकॉर्ड तक पहुंचने का कोई सबूत नहीं मिला है।
हालांकि, इस घटना ने उन सीमाओं पर महत्वपूर्ण बहस छेड़ दी है जिन्हें इंटरनेट पर नेविगेट करने, सेवाओं के साथ इंटरैक्ट करने और सापेक्ष स्वायत्तता के साथ कार्य करने में सक्षम एजेंटों के लिए स्थापित किया जाना चाहिए। इसलिए, ऑस्ट्रेलियाई जांच को एक्सेस की सीमा को परिभाषित करना चाहिए और पुष्टि करनी चाहिए कि क्या ऐसा डेटा उजागर हुआ था जिसे एजेंट तक नहीं पहुंचना चाहिए था।