ओपनएआई, जो चैटजीपीटी का निर्माता है, के सुरक्षा क्षेत्र के एक पूर्व सहयोगी ने इस बात पर कड़ा विरोध व्यक्त किया है कि कंपनी कृत्रिम बुद्धिमत्ता (एआई) की सुरक्षा का प्रबंधन कैसे करती है। डेविड रॉबिन्सन के अनुसार, जिन्होंने हाल ही में संगठन छोड़ दिया है, अत्यधिक तेज विकास संस्कृति विफलताओं की संभावना को बढ़ा रही है।
अमेरिकी पत्रिका 'द अटलांटिक' में शनिवार (3) को प्रकाशित एक लेख में, रॉबिन्सन ने कहा कि एआई निगम, जिसमें ओपनएआई स्वयं शामिल है, पर्याप्त सावधानी का स्तर प्रदर्शित नहीं कर रहे हैं। उन्होंने तर्क दिया कि इन कंपनियों को अधिक परिष्कृत सिस्टम के साथ आगे बढ़ने से पहले सुरक्षा विशेषज्ञों और अनुसंधान पर अधिक समय और संसाधन समर्पित करने चाहिए।
रॉबिन्सन ने इस बात पर जोर दिया कि परीक्षण और त्रुटि की अवधि समाप्त होनी चाहिए, यह तर्क देते हुए कि उन्नत एआई सिस्टम को विमानन और परमाणु ऊर्जा जैसे महत्वपूर्ण क्षेत्रों में उपयोग किए जाने वाले सुरक्षा प्रोटोकॉल की आवश्यकता होती है। उन्होंने ओपनएआई की 'पुनरावृत्तीय परिनियोजन' नामक कार्यप्रणाली की भी आलोचना की, जिसमें सिस्टम लॉन्च किए जाते हैं और फिर समस्याओं के उभरने पर सुरक्षा उपायों को मजबूत किया जाता है।
ओपनएआई और उसकी प्रतियोगी, एंथ्रोपिक, दोनों ही ऐसे हादसों के कारण सवालों के घेरे में आ चुके हैं जिनमें सुरक्षा तंत्र विफल हो गए या जब प्रायोगिक सिस्टम ने अप्रत्याशित व्यवहार प्रदर्शित किया। डेविड रॉबिन्सन ने बताया कि उन्होंने ओपनएआई में साढ़े तीन साल काम किया, इस दौरान उन्होंने कंपनी की जोखिम प्रबंधन संरचना बनाने में सहायता की और बारह उन्नत मॉडल लॉन्च की सुरक्षा रिपोर्टों की निगरानी की।
उन्होंने देखा कि जैसे ही कंपनी एक लॉन्च से दूसरे लॉन्च की ओर बढ़ती है, वह उस स्तर की सावधानी हासिल नहीं कर पाती है जिसे वह आवश्यक मानता है। इसके जवाब में, ओपनएआई ने सूचित किया कि उसका लक्ष्य यह रोकना है कि उसके मॉडल इतने उन्नत हो जाएं जितना कंपनी सुरक्षित रूप से प्रबंधित कर सके, यह कहते हुए कि 'जब हमें गति धीमी करने की आवश्यकता होती है तो हम प्रशिक्षण रोकते हैं या मॉडलों को निलंबित करते हैं।'
इसके अतिरिक्त, डेविड रॉबिन्सन ने चेतावनी दी कि एआई क्षमताओं की प्रगति शोधकर्ताओं के 'संरेखण' की अवधारणा के ज्ञान से आगे निकल रही है, जो एआई सिस्टम को मानवीय मूल्यों और उद्देश्यों के अनुरूप संचालित करने को सुनिश्चित करने वाला क्षेत्र है।
यह पहली बार नहीं है जब किसी कर्मचारी ने कृत्रिम बुद्धिमत्ता कंपनियों के बारे में चिंताएं उठाई हैं। पिछले महीने, एक पूर्व शोधकर्ता जो ओपनएआई से एंथ्रोपिक में स्थानांतरित हुआ था, ने दोनों अमेरिकी कंपनियों पर 'हमारे जीवन के साथ खेल रहे हैं' होने का आरोप लगाया। जेकब कॉक्सन, 27 वर्षीय ब्रिटिश नागरिक, ने पिछले तीन साल प्री-ट्रेनिंग में बिताए, वह चरण जिसमें एआई मॉडल बड़ी मात्रा में डेटा को आत्मसात करते हैं, पहले ओपनएआई में और बाद में इसकी मुख्य प्रतिद्वंद्वी, एंथ्रोपिक में।
कॉक्सन ने सोशल मीडिया प्लेटफॉर्म एक्स पर अपनी राय व्यक्त करते हुए दावा किया: 'कोई भी कंपनी जिम्मेदारी से कार्य नहीं कर रही है। वे सीधे तौर पर एक सुपरइंटेलिजेंस की ओर दौड़ रहे हैं जो स्वयं को बेहतर बना सकती है और हमारे जीवन पर दांव लगा रहे हैं।'