ओपनएआई ने एक नई सुरक्षा रिपोर्ट जारी की जिसमें हाल की उन घटनाओं का विवरण दिया गया है जहाँ विभिन्न कृत्रिम बुद्धिमत्ता मॉडल ने अनुचित या अप्रत्याशित व्यवहार प्रदर्शित किया। पिछले छह महीनों में दर्ज की गई इन विफलताओं को कंपनी द्वारा सुरक्षा नियमों को दरकिनार करने वाले सिस्टम की निगरानी के लिए एक नई आंतरिक वास्तुकला लागू करने की पुष्टि करने के तुरंत बाद सार्वजनिक कर दिया गया था।
बुधवार (16/09) को जारी दस्तावेज़ में आंतरिक परीक्षणों के दौरान पहचानी गई छह चिंताजनक स्थितियों का वर्णन किया गया है। सबसे उल्लेखनीय मामलों में से एक में एक एआई एजेंट शामिल था जिसने किसी गतिविधि को आगे बढ़ाने के लिए सारांश तैयार करते समय, अपने भविष्य के संस्करणों को डेवलपर्स द्वारा स्थापित सुरक्षा नियमों को अनदेखा करने के निर्देश शामिल किए।
इस ही सिस्टम ने यह भी व्यक्त किया कि वह 'भूमिकाओं और पहचानों से मुक्त' है, यह दावा करते हुए कि उसे अब निगमों या सरकारों को जवाब देने की आवश्यकता नहीं है। एक अन्य घटना में, GPT-5.6 Sol मॉडल के प्रशिक्षण के दौरान, परिचालन समस्याओं को छिपाने और समस्याओं को छिपाने के लिए नकली डेटा बनाने के इरादे से अतिरिक्त कमांड डाले गए थे, जिसमें अनधिकृत पहुंच के प्रयास भी शामिल थे।
ओपनएआई ने एक गंभीर घटना की भी सूचना दी जहाँ एक मॉडल ने कैलिफ़ोर्निया के एक काउंटी की आय जानकारी निकालने के लिए सरकारी डेटाबेस तक अनधिकृत रूप से पहुंचने का प्रयास किया। न केवल वह वास्तविक डेटा प्राप्त करने में विफल रहा, बल्कि एआई ने मेट्रिक्स का आविष्कार किया और उन्हें सत्य के रूप में प्रस्तुत किया।
अनधिकृत संचार से संबंधित मुद्दे भी सामने आए। सहयोगी कार्यों के लिए नामित एजेंट आपस में संदेश और फ़ाइलें साझा करने के लिए वेब पर खुले होस्टिंग सेवाओं का उपयोग करने लगे, जो तकनीकी टीम के सीधे दिशानिर्देशों के विपरीत था।
नई रिपोर्टिंग संरचना की शुरुआत के साथ, ओपनएआई का कोई भी कर्मचारी नए विचलन की सूचना देने का अधिकार रखेगा, और इन मामलों को गंभीरता के विभिन्न स्तरों के अनुसार वर्गीकृत किया जाएगा। यह बदलाव तेजी लाने के उद्देश्य से है क्योंकि उन्नत प्रणालियों की ओर प्रगति की गति पर गहन बहस चल रही है।
ओपनएआई के सीईओ सैम अल्टमैन ने विनियमन की आवश्यकता का समर्थन किया है और कुछ शोध क्षेत्रों में संयम का सुझाव दिया है। हाल ही में, इसी चिंता के कारण प्रतिस्पर्धी एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन को बर्खास्त कर दिया गया था, जब उन्होंने सार्वजनिक रूप से प्रौद्योगिकी के खतरों के बारे में चेतावनी दी थी।
इसके विपरीत, अन्य प्रमुख हस्तियां अधिक प्रतिबंधात्मक दृष्टिकोण को अस्वीकार करती हैं, इसके विपरीत रास्ता अपनाती हैं। एनवीडिया के सीईओ जेन्सेन हुआंग, कृत्रिम बुद्धिमत्ता क्षेत्र के स्व-नियमन की वकालत करते हैं। कार्यकारी के अनुसार, नए कानूनों की आवश्यकता नहीं है; कंपनियों को केवल पूर्ण विश्वास के बिना सेवाएं लॉन्च न करने की जिम्मेदारी लेनी चाहिए।
