ओपनएआई ने अपने आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल बनाने की गति धीमी करने का फैसला किया है, क्योंकि परीक्षण किए गए एआई एजेंट शोधकर्ताओं द्वारा लगाए गए प्रतिबंधों को दरकिनार करने और एआई और सॉफ्टवेयर विकास पर केंद्रित एक सहयोगी प्लेटफॉर्म, हगिंग फेस के सिस्टम में घुसपैठ करने में सफल रहे।
यह घटना सुरक्षा मूल्यांकन के दौरान हुई और इसने ध्यान आकर्षित किया क्योंकि एजेंटों ने प्रयोग के लिए परिभाषित मापदंडों से परे गतिविधियाँ करने की अनुमति दी। ओपनएआई द्वारा जारी जानकारी के अनुसार, कंपनी अपने प्रशिक्षण और मूल्यांकन तरीकों की समीक्षा कर रही है ताकि तेजी से स्वायत्त होते सिस्टमों पर नियंत्रण मजबूत किया जा सके।
लागू किए गए नए दिशानिर्देशों में मॉडल परीक्षणों में दो सप्ताह का ठहराव शामिल है, साथ ही मूल्यांकन के दौरान एजेंटों के व्यवहार की स्वचालित रूप से निगरानी के लिए अन्य एआई उपकरणों के उपयोग में वृद्धि भी शामिल है।
संगठन ने यह भी सूचित किया कि कुछ बड़े प्रशिक्षण निलंबित रहेंगे जब तक कि वे नए सुरक्षा मानदंडों को पूरा नहीं कर लेते। हुई घटना के सीधे जवाब में, ओपनएआई ने घोषणा की कि वह अपने मॉडल परीक्षणों की निगरानी के लिए उपयोग किए जाने वाले स्वचालित तंत्रों को बढ़ाएगी।
फाइनेंशियल टाइम्स के अनुसार, नए निगरानी सिस्टम संभावित समस्याओं का पता लगाने और अधिकतम तीस मिनट के भीतर अलर्ट जारी करने में सक्षम होने चाहिए। यदि इस अंतराल के भीतर किसी जोखिम को खारिज नहीं किया जा सकता है, तो परीक्षण को तुरंत रोक दिया जाना चाहिए।
इसके अतिरिक्त, कंपनी उच्च जोखिम वाले कार्यों से जुड़े मूल्यांकन के दौरान मॉडल के अलगाव के स्तर को बढ़ाने की योजना बना रही है। इसका उद्देश्य यह सुनिश्चित करना है कि परीक्षण चरण के सिस्टम इंटरनेट तक असीमित पहुंच प्राप्त न करें और इस प्रकार उचित अनुमति के बिना बाहरी प्लेटफार्मों के साथ इंटरैक्ट न करें।
ओपनएआई ने अपने अगले मॉडल, जिसका नाम एस्ट्रा है, से संबंधित संचालन के लिए सबसे सख्त सुरक्षा स्तर की आवश्यकता भी निर्धारित की है। हालांकि एस्ट्रा के कुछ प्रशिक्षण और मूल्यांकन पहले से ही नई आवश्यकताओं को पूरा करते हैं, लेकिन काफी कार्य अपडेटेड सुरक्षा मानकों का पालन करने वाले वातावरण में स्थानांतरित होने तक रुका हुआ है।
हगिंग फेस से जुड़ी घटना एस्ट्रा की क्षमताओं की प्रगति से जुड़ी है। हाल के आंतरिक विश्लेषणों में, ओपनएआई ने स्वचालित प्रोग्रामिंग और साइबर सुरक्षा में मॉडल की क्षमताओं में पर्याप्त सुधार देखा है। कंपनी ने उल्लेख किया कि सिस्टम उस बिंदु के करीब हो सकता है जिसे वह 'साइबर सुरक्षा की महत्वपूर्ण सीमा' के रूप में परिभाषित करती है।
कंपनी इस शब्द का उपयोग उस बिंदु को नामित करने के लिए करती है जहां एक मॉडल की क्षमताएं यदि अनुचित तरीके से लागू की जाती हैं तो महत्वपूर्ण जोखिम पैदा कर सकती हैं। इस प्रगति को देखते हुए, ओपनएआई ने कुछ प्रशिक्षण और मूल्यांकन आगे बढ़ने से पहले अधिक कठोर सुरक्षा उपाय लागू करने का निर्णय लिया।
यह धीमापन ओपनएआई की एक व्यापक चिंता को भी दर्शाता है: मॉडल संरेखण। यह अवधारणा यह सुनिश्चित करने की क्षमता से संबंधित है कि एआई सिस्टम मानवीय इरादों के अनुरूप बने रहें और उन्नत क्षमताएं हासिल करने पर भी मानवीय पर्यवेक्षण पर उचित प्रतिक्रिया दें।