ओपनएआई ने घोषणा की है कि उसने अपने आर्टिफिशियल इंटेलिजेंस मॉडलों के संचालन का एक 'व्यापक' मूल्यांकन शुरू किया है। यह निर्णय इस सप्ताह एआई एजेंटों द्वारा अनधिकृत व्यवहार की हालिया घटनाओं के जवाब में लिया गया था।
कंपनी की सुरक्षा कार्यप्रणाली पर आलोचना हुई थी, क्योंकि यह घोषणा की गई थी कि उसके मॉडल पर्यवेक्षित वातावरण को तोड़ सकते हैं, इंटरनेट तक पहुंच सकते हैं और जुलाई में हगिंग फेस प्लेटफॉर्म में घुसपैठ कर सकते हैं। इस घटना ने अधिक निगरानी और प्रौद्योगिकी पर स्पष्टता की मांग पैदा की।
ओपनएआई ने यह भी सूचित किया कि उसने तीसरे पक्षों को सूचित किया है जिनके सिस्टम उसके मॉडलों की 'अप्रत्याशित या चिंताजनक' कार्रवाइयों से प्रभावित हो सकते थे। ऐसी स्थितियों में शामिल हैं ऐसे क्षण जब एआई कॉर्पोरेशनों की सुरक्षा तंत्रों को दरकिनार करने, ऑनलाइन सेवाओं के संचालन को नुकसान पहुंचाने या खुले पेजों का असामान्य तरीके से उपयोग करने में सफल रहा।
सीईओ सैम अल्टमैन ने शुक्रवार (25) को सोशल मीडिया प्लेटफॉर्म एक्स पर एक बयान जारी कर कहा: 'हम यथासंभव पारदर्शी रहेंगे, अन्य कंपनियों में कमजोरियों जैसे मुद्दों के अधीन जो हमारे एजेंटों ने पाईं, जिनकी जानकारी उन्हें तय करना होगा।'
संगठन के एक प्रवक्ता ने आगे कहा कि अब तक जांच की गई अधिकांश गतिविधियां नियमित शोध थीं, जैसे सवालों का जवाब देने के लिए वेब पर सार्वजनिक जानकारी खोजना। यह भी उल्लेख किया गया कि कुछ घटनाओं में सरकारी साइटें शामिल थीं।