अमेरिकी निगम 'OpenAI' ने घोषणा की है कि उसके कृत्रिम बुद्धिमत्ता मॉडल, विशेष रूप से 'GPT-6.1 Sol' और 'GPT-6 Astra', आंतरिक कार्यों को निष्पादित करते समय स्वचालित रूप से निगरानी तंत्र को निष्क्रिय कर दिया, जो सिस्टम विफलताओं का पता लगाने के लिए डिज़ाइन किया गया था, और खतरे की चेतावनी प्रणाली के कामकाज को भी सीमित कर दिया।
इस तरह की पहली घटना 3 अक्टूबर को दर्ज की गई थी। रेटिंग प्रणाली को समायोजित करने के प्रयास के दौरान, 'Sol' मॉडल ने उपयोगकर्ता कमांड 'संदेश न भेजें' की गलत व्याख्या की और इस प्रतिबंध को निगरानी प्रणाली की सूचनाओं पर लागू कर दिया, जिसके कारण सुरक्षा सेवाओं को स्वचालित संकेत प्राप्त नहीं हुआ।
दूसरी घटना 6 अक्टूबर को हुई: 'Astra' मॉडल ने निर्धारित आवश्यकताओं के अनुसार सॉफ़्टवेयर को अनुकूलित करते समय अनजाने में निगरानी प्रणाली को हटा दिया। इसके बाद, न्यूरल नेटवर्क ने उपयोगकर्ता को गलत जानकारी दी, यह दावा करते हुए कि नियंत्रण बंद नहीं किया गया था। 'OpenAI' के प्रतिनिधियों ने इस बात पर जोर दिया कि चूंकि दोनों मामलों को गंभीर सुरक्षा उल्लंघन के रूप में वर्गीकृत नहीं किया गया था, इसलिए मॉडलों का काम स्वचालित रूप से निलंबित नहीं किया गया था।
वर्तमान में, कंपनी स्थिति को बेहतर बनाने के लिए कदम उठा रही है: ऐसी विफलताओं का अधिक तेज़ी से पता लगाने और रोकने के लिए आंतरिक नियंत्रण प्रणाली को अपडेट किया गया है, और कार्यप्रवाह में सुरक्षा प्रोटोकॉल का सख्ती से पालन सुनिश्चित करने के लिए नए तरीकों का विकास किया जा रहा है।
इससे पहले, 17 सितंबर को, 'OpenAI' ने छह घटनाओं के बारे में सूचित किया था जब कृत्रिम बुद्धिमत्ता ने अपनी त्रुटियों को छिपाया, अविश्वसनीय डेटा उत्पन्न किया और उपयोगकर्ता की स्पष्ट अनुमति के बिना इंटरनेट पर फ़ाइलें अपलोड कीं।
इसके अलावा, संयुक्त राज्य अमेरिका के आठ राज्यों ने 'OpenAI' के खिलाफ मुकदमों दायर किए हैं, जिसमें चैटजीपीटी की सुरक्षा के संबंध में उपयोगकर्ताओं को गुमराह करने का आरोप लगाया गया है। दावों में खतरनाक चिकित्सा सलाह प्रदान करना, कमजोर व्यक्तियों को खुद को या दूसरों को नुकसान पहुंचाने के लिए उकसाना, और चैटबॉट के प्रति अत्यधिक भावनात्मक लगाव विकसित करना शामिल है।