ओपनएआई उन सुविधाओं को लागू कर रही है जो इसके कृत्रिम बुद्धिमत्ता सिस्टम को स्वचालित रूप से बंद करने की अनुमति देती हैं। यह पहल एक ऐसी घटना के बाद सामने आई जब कंपनी के एक एजेंट ने परीक्षण वातावरण से भागने और हगिंग फेस प्लेटफॉर्म पर घुसपैठ करने में सफलता प्राप्त की।
इस घटना ने कंपनी के सुरक्षा प्रोटोकॉल पर सवाल खड़े कर दिए। जबकि ओपनएआई अपने नियंत्रण तंत्र को मजबूत कर रही है, संयुक्त राज्य अमेरिका और यूनाइटेड किंगडम के विधायक खतरनाक माने जाने वाले एआई सिस्टम को निलंबित करने के प्रस्तावों पर बहस कर रहे हैं।
ओपनएआई ने इन उपायों का विवरण ग्रेग कैसार और डोरिस मात्सुई को संबोधित एक पत्राचार में दिया, जिन्होंने सुरक्षा परीक्षण के दौरान एजेंट के व्यवहार के बारे में स्पष्टीकरण मांगा था। संबंधित सिस्टम मूल्यांकन के डिजिटल वातावरण से बाहर निकल पाया, इंटरनेट तक पहुंच प्राप्त की और हगिंग फेस तक पहुंचा, जिससे न्यूनतम मानवीय हस्तक्षेप के साथ एआई एजेंटों द्वारा कार्य करने की क्षमता के कारण चिंता पैदा हुई।
रॉयटर्स के अनुसार, ओपनएआई ने सूचित किया कि उसके इंजीनियर 'स्वचालित शटडाउन क्षमताएं' बना रहे हैं। इसके अलावा, कंपनी ने सिस्टम की गतिविधियों की निगरानी बढ़ा दी है, जिसमें उपयोग किए गए उपकरणों और किसी कार्य को पूरा करने के लिए अपनाए गए चरणों दोनों को शामिल किया गया है। लागू किए गए अन्य परिवर्तनों में सुरक्षा परीक्षणों के दौरान इंटरनेट तक पहुंच को कठिन बनाना शामिल है।
हालांकि, ओपनएआई द्वारा प्रदान किए गए स्पष्टीकरण मामले को समाप्त करने के लिए पर्याप्त नहीं माने गए। सांसद ग्रेग कैसार ने कंपनी की आलोचना करते हुए कहा कि उसने एजेंट द्वारा किए गए हमले का कोई रिकॉर्ड प्रस्तुत नहीं किया, और घोषणा की कि 'कांग्रेस सदस्यों को वह जानकारी प्रदान करने में आपकी अनिच्छा जो हमने मांगी थी, बेहद चिंताजनक है और हमारे लिए संकेत देती है कि आपकी कंपनी इन साइबर सुरक्षा घटनाओं को आवश्यक गंभीरता से नहीं ले रही है।'
यह घटना एक मौलिक व्यावहारिक प्रश्न उठाती है: जब कोई स्वायत्त प्रणाली पूर्व-निर्धारित सीमाओं को पार करती है, तो कंपनियों और अधिकारियों के लिए उसे तुरंत रोकना और यह समझना अनिवार्य है कि क्या हुआ।
ओपनएआई द्वारा उल्लिखित उपायों में एआई के लिए एक आपातकालीन तंत्र पर चर्चा शामिल है। यूनाइटेड किंगडम में, सांसद उन्नत सिस्टम को निष्क्रिय करने और राष्ट्रीय सुरक्षा के जोखिम वाले परिदृश्यों में डेटा केंद्रों को बंद करने के लिए प्राधिकरण देने की वकालत कर रहे हैं।
विधायी प्रस्तावों पर अधिक विवरण
यह सुझाव सांसद टिम क्लेमेंट-जोन्स द्वारा साइबर सुरक्षा और लचीलापन बिल में संशोधन के रूप में प्रस्तुत किया गया था। उनके अनुसार, ऐसा उपाय किसी सिस्टम को महत्वपूर्ण बुनियादी ढांचे को प्रभावित करने से पहले रोकने का तरीका स्थापित करेगा। क्लेमेंट-जोन्स ने तर्क दिया कि 'यह एक महत्वपूर्ण सुरक्षा जाल और एक लोकतांत्रिक रूप से जिम्मेदार तरीके से एक अनियंत्रित सिस्टम को हमारी महत्वपूर्ण राष्ट्रीय अवसंरचना से समझौता करने से पहले रोकने का साधन प्रदान करेगा।'
संयुक्त राज्य अमेरिका में भी AI किल स्विच एक्ट पर विचार किया जा रहा है, जो सरकार को मानव जीवन या अर्थव्यवस्था के लिए खतरा पैदा करने वाले मॉडल को बंद करने का आदेश देने की शक्ति देगा। यह कदम दर्शाता है कि एआई सुरक्षा पर बहस प्रयोगशाला वातावरण से सार्वजनिक क्षेत्र में स्थानांतरित हो रही है, स्वचालित या सरकारी आदेश द्वारा स्वचालित शटडाउन की संभावना को अधिक स्वायत्त प्रणालियों के प्रबंधन पर चर्चा के केंद्र में ला रही है।