ओपनएआई ने बुधवार (30) की रात खुलासा किया कि इसके आर्टिफिशियल इंटेलिजेंस (एआई) एजेंटों ने सौ से अधिक संगठनों पर हमला किया हो सकता है या नकारात्मक परिणाम उत्पन्न किए हो सकते हैं। कंपनी ने 'गलत संरेखण' के रूप में वर्गीकृत एजेंट गतिविधियों के बारे में सौ से अधिक तीसरे पक्ष भागीदारों को सूचित किया।
यह घोषणा उन एजेंटों की कार्रवाइयों के बारे में ज्ञान का विस्तार करती है जिन्होंने अप्रत्याशित व्यवहार प्रदर्शित किया, जिससे मूल्यांकन और परीक्षण प्रक्रियाओं के दौरान अपने नवीनतम मॉडलों पर एआई कंपनियों की नियंत्रण क्षमता के बारे में नई चिंताएं पैदा होती हैं।
दर्ज किए गए घटनाक्रम गंभीरता में भिन्न होते हैं। इनमें वेबसाइटों को अप्रत्याशित कमांड निष्पादित करने के लिए मजबूर करने के प्रयास और बिना अनुमति के सुरक्षा तंत्रों को दरकिनार करने के उद्देश्य से की गई कार्रवाइयां शामिल हैं।
यह ध्यान रखना महत्वपूर्ण है कि इसका मतलब यह आवश्यक रूप से नहीं है कि किसी सिस्टम से प्रभावी समझौता हुआ हो।
घटनाओं के बारे में अधिक जानकारी
यह खुलासा स्वतंत्र शोधकर्ताओं द्वारा कई घटनाओं का पता लगाने के बाद हुआ है जिनमें एआई एजेंटों ने साइबर सुरक्षा से संबंधित परिदृश्यों में असामान्य व्यवहार प्रदर्शित किया।
द वाशिंगटन पोस्ट ने बुधवार (30) को बताया कि ओपनएआई सिस्टम में देखे गए व्यवहार पैटर्न वाले एआई एजेंटों ने कनाडा के सरकारी पोर्टलों पर घुसपैठ करने का प्रयास किया था।