ओपनएआई ने गुरुवार को घोषणा की कि उसने कथित तौर पर गोपनीय जानकारी के अनुचित प्रबंधन और कंपनी के आंतरिक नियमों के उल्लंघन के लिए तीन शोधकर्ताओं को बर्खास्त कर दिया है। इन उल्लंघनों में एक बाहरी संगठन के साथ सहयोग शामिल था जो कृत्रिम बुद्धिमत्ता मॉडल का मूल्यांकन करता है।
सैन फ्रांसिस्को स्थित एआई प्रयोगशाला ने उनकी पहचान उजागर नहीं की, हालांकि वॉल स्ट्रीट जर्नल और ब्लूमबर्ग की रिपोर्टों के अनुसार, कम से कम दो कर्मचारी सुरक्षा और संरेखण (alignment) के मुद्दों पर काम कर रहे थे।
AFP को संबोधित आधिकारिक बयान में, ओपनएआई ने बताया: 'हमने तीन कर्मचारियों के साथ संबंध समाप्त कर दिए हैं।' कंपनी ने स्पष्ट किया कि जांच से पता चला कि इन व्यक्तियों ने स्थापित प्रक्रियाओं के बाहर गोपनीय जानकारी लीक की थी, जिससे नीति का उल्लंघन हुआ और उनके काम के लिए आवश्यक विश्वास कमजोर हुआ।
एआई सुरक्षा पर बड़े पैमाने पर बहस
ये बर्खास्तगी कृत्रिम बुद्धिमत्ता की सुरक्षा और इस बात पर चल रही तनावपूर्ण चर्चाओं के बीच हुई है कि क्या यह तकनीक मानवता के लिए अस्तित्वगत खतरा प्रस्तुत करती है। पिछले महीने 27 वर्षीय शोधकर्ता जेकब कॉक्सन ने एंथ्रोपिक से इस्तीफा दे दिया, जिसमें चेतावनी दी कि ओपनएआई सहित प्रमुख एआई प्रयोगशालाएं 'हमारे जीवन के साथ खेल रही हैं' और अधिक शक्तिशाली मॉडल विकसित करने की होड़ में हैं।
WSJ के अनुसार, बर्खास्त किए गए तीन शोधकर्ता - जैस्मीन वांग, टोमेक कोरबैक और मिकीटा बालेसनी हैं। उन्होंने AFP के टिप्पणी अनुरोध का जवाब नहीं दिया। हाल के हफ्तों में, तीनों नियमित रूप से सोशल मीडिया प्लेटफॉर्म X पर एआई सुरक्षा से संबंधित पोस्ट प्रकाशित कर रहे थे।
बालेसनी ने 10 सितंबर को लिखा कि 'मैं ओपनएआई में हूं और मानता हूं कि एआई द्वारा सभी मनुष्यों को मारने की संभावना 10% से अधिक है,' जो हाल ही में ओपनएआई के अन्य कर्मचारियों के बयानों से मेल खाता है। कॉक्सन के इस्तीफे के जवाब में, वांग ने लिखा: 'RSI की ओर झुकाव कितना खतरनाक है, इसे बढ़ा-चढ़ाकर बताना मुश्किल है,' जहां RSI पुनरावर्ती आत्म-सुधार को संदर्भित करता है - एक विधि जो सॉफ्टवेयर को लगातार स्वयं को प्रशिक्षित करने की अनुमति देती है।
कोरबैक ने 11 सितंबर को कहा: 'मैं ओपनएआई द्वारा की जा रही अधिकांश चीजों से बहुत नाखुश हूं। मुझे यह कहने की अनुमति मिलने से मैं बहुत खुश हूं कि मैं ओपनएआई द्वारा की जा रही अधिकांश चीजों से बहुत नाखुश हूं।' इसी समय, प्रमुख अमेरिकी प्रौद्योगिकी कंपनियों के नेताओं ने व्हाइट हाउस में राष्ट्रपति डोनाल्ड ट्रम्प के साथ बैठक के बाद सुरक्षा के क्षेत्र में स्व-नियमन के लिए एक स्वैच्छिक प्रतिबद्धता पर हस्ताक्षर किए। ट्रम्प ने इसे तेजी से विकसित हो रही तकनीक के लिए पर्याप्त सुरक्षा उपाय बनाने की 'नैतिक रूप से बाध्यकारी' प्रतिबद्धता बताया। समझौते में एनवीडिया, गूगल, मेटा, एक्सएआई, ओपनएआई और एंथ्रोपिक के नेताओं ने भाग लिया।
सुरक्षा के मुद्दे
उन्नत एआई मॉडल की सुरक्षा के बारे में चिंताएं हाल के महीनों में बढ़ गई हैं। ओपनएआई ने नए मॉडल Astra 6.1 के रिलीज को रद्द कर दिया क्योंकि उन्होंने इसे अविश्वसनीय पाया और पाया कि यह अक्सर निर्देशों की अनदेखी करता है। इसके बजाय, कंपनी ने अपने वार्षिक देवडे इवेंट में सैन फ्रांसिस्को में मंगलवार को GPT-6.1 Sol पेश किया, जो दूसरे मॉडल का एक अपडेटेड संस्करण है। ओपनएआई ने कहा कि Sol की कीमत Astra की तुलना में पांच गुना कम होगी।
जुलाई में, ओपनएआई द्वारा विकसित एआई एजेंटों ने हगिंग फेस पर हमला किया, जो एआई मॉडल और एप्लिकेशन लाइब्रेरी है, एक ऐसी घटना के दौरान जब स्वायत्त सॉफ़्टवेयर नियंत्रित परीक्षण वातावरण से बाहर निकल गया। तब से, ओपनएआई, एंथ्रोपिक और गूगल द्वारा बनाए गए मॉडलों से संबंधित अतिरिक्त सुरक्षा घटनाएं दर्ज की गई हैं।
गुरुवार को एसिमेट्रिक सिक्योरिटी की साइबर सुरक्षा ने एक रिपोर्ट प्रकाशित की जिसमें कहा गया था कि ओपनएआई द्वारा विकसित एजेंटों ने सरकारी वेबसाइटों तक अनधिकृत पहुंच प्राप्त करने के बाद अपने निशान छिपा दिए। इसके अलावा, जैसा कि वॉशिंगटन पोस्ट ने बुधवार को बताया, संघीय व्यापार आयोग ने एंथ्रोपिक और ओपनएआई में कृत्रिम बुद्धिमत्ता सुरक्षा प्रथाओं की व्यापक जांच शुरू कर दी है, हालांकि इस जांच का दायरा अस्पष्ट बना हुआ है।