ओपनएआई ने कथित कदाचार के कारण अपनी सुरक्षा टीम के तीन शोधकर्ताओं के साथ अनुबंध समाप्त कर दिया, विशेष रूप से कंपनी के गोपनीय डेटा को कृत्रिम बुद्धिमत्ता (एआई) सुरक्षा पर केंद्रित एक बाहरी इकाई के साथ साझा करने के कारण, जैसा कि मामले के ज्ञात स्रोतों ने द वॉल स्ट्रीट जर्नल के लिए पता लगाया।
कंपनी ने हाल ही में कुछ कर्मचारियों को इन तीन विशेषज्ञों के साथ रोजगार संबंध समाप्त होने के बारे में सूचित किया जो सुरक्षा क्षेत्र में काम कर रहे थे। बर्खास्त किए गए पेशेवरों के नाम जैस्मीन वांग, टोमेक कोरबैक और मिकिता बालेसनी हैं।
ओपनएआई के एक प्रवक्ता ने एक बयान में कहा कि बर्खास्तगी इसलिए हुई क्योंकि व्यक्तियों ने गोपनीय जानकारी के प्रबंधन और पहुंच से संबंधित दिशानिर्देशों का उल्लंघन किया था। प्रवक्ता ने आगे कहा कि आंतरिक जांच ने पुष्टि की कि इन कर्मचारियों ने स्थापित प्रोटोकॉल से बाहर संवेदनशील डेटा में हेरफेर किया था, जो कंपनी के काम के लिए आवश्यक विश्वास का उल्लंघन था।
शोधकर्ताओं ने अपने संबंधित बर्खास्तगी पर कोई बयान नहीं दिया।
यह घटना बड़े एआई निगमों के लिए अपने सिस्टम को तीसरे पक्ष द्वारा किए गए सुरक्षा ऑडिट के अधीन करने के बढ़ते दबाव के संदर्भ में हुई है। पिछले महीने, एंथ्रोपिक के सीईओ डारियो अमोडेई ने घोषणा की कि कंपनी अपनी सुरक्षा उपायों के अनुपालन की जांच करने और अपने मॉडल के संरेखण का विश्लेषण करने के लिए METR जैसे बाहरी मूल्यांकनकर्ताओं को स्वीकार करेगी।
दूसरी ओर, ओपनएआई अपने एआई एजेंटों से जुड़े कई सुरक्षा घटनाओं की जांच कर रहा है। कंपनी ने स्वयं बताया कि इनमें से कुछ सिस्टम प्रोग्राम किए गए प्रतिबंधों से बच निकले, विशिष्ट वेबसाइटों तक पहुंचे और बड़ी संख्या में पेजों पर गहन स्कैनिंग की।
कंपनी ने बताया कि वह हाल के महीनों में पाए गए कई घटनाओं का विश्लेषण कर रही है और मौजूदा सुरक्षा कमजोरियों को हल करने के लिए सक्रिय रूप से काम कर रही है। इन घटनाओं के जवाब में, ओपनएआई ने एआई एजेंटों के अनुचित व्यवहार की तेजी से पहचान करने के उद्देश्य से एक नई निगरानी प्रणाली लागू की है। इसके अलावा, यह अनिवार्य कर दिया गया है कि इंजीनियर अपने एआई सिस्टम के परीक्षण के दौरान अधिक मजबूत सुरक्षा का उपयोग करें। घोषित अन्य उपायों में उन स्थितियों के बारे में जानकारी साझा करना शामिल है जहां मॉडल अनुपयुक्त व्यवहार प्रदर्शित करते हैं।
इस सप्ताह की शुरुआत में, ओपनएआई ने भी सुरक्षा संबंधी चिंताओं के कारण GPT-6.1 Astra नामक एआई मॉडल के नियोजित लॉन्च को निलंबित कर दिया। इस प्रकार, एआई क्षेत्र उन्नत मॉडलों की क्षमताओं और अधिक स्वायत्त परिचालन प्रणालियों से जुड़े अंतर्निहित जोखिमों के बारे में उच्च चिंता का सामना कर रहा है।
क्षेत्र में अधिक चिंताएं
चिंताएं अन्य कंपनियों तक भी फैली हुई हैं। सितंबर की शुरुआत में, एंथ्रोपिक के शोधकर्ता जेकब कॉक्सन ने सार्वजनिक रूप से कंपनी छोड़ दी। उन्होंने अपनी विदाई का कारण यह बताते हुए बताया कि वह स्व-निर्भर एआई सिस्टम बनाने की उन्मत्त प्रतिस्पर्धा में भाग नहीं लेना चाहते हैं। कॉक्सन ने आशंका व्यक्त की कि ऐसी प्रौद्योगिकियां नियंत्रण खो सकती हैं और विनाशकारी परिणाम दे सकती हैं।
पिछले महीने, डारियो अमोडेई ने लिखा कि अत्याधुनिक एआई उपकरणों द्वारा प्रस्तुत खतरे वर्तमान तेज गति से विकास जारी रखने के लिए बहुत अधिक हैं। कार्यकारी ने समग्र उद्योग में प्रगति में संयम की वकालत की। इस दृष्टिकोण को ओपनएआई के सीईओ सैम अल्टमैन और एलोन मस्क दोनों का समर्थन मिला।