डेविड रॉबिन्सन, जिन्होंने OpenAI छोड़ दिया है, ने इस सप्ताह द अटलांटिक में प्रकाशित एक संपादकीय में कृत्रिम बुद्धिमत्ता उद्योग की वर्तमान संस्कृति पर अपनी चिंता व्यक्त की। उनकी राय प्रासंगिक है क्योंकि रॉबिन्सन उन सुरक्षा रिपोर्टों को तैयार करने के लिए जिम्मेदार थे जो OpenAI द्वारा विकसित बड़े एआई मॉडल के प्रमुख लॉन्च के साथ संलग्न थीं, जो चैटजीपीटी का निर्माता है।
रॉबिन्सन के लिए, क्षेत्र द्वारा सामना की जा रही समस्या बहुत गंभीर है, इतनी कि केवल विनियमन - यानी एआई मॉडल के प्रशिक्षण के लिए मानक बनाना - एक पूर्ण समाधान नहीं है। उन्होंने तर्क दिया कि कृत्रिम बुद्धिमत्ता को परमाणु सुविधाओं के समान सुरक्षा की आवश्यकता है।
एआई को परमाणु स्तर की सुरक्षा उपायों की आवश्यकता है
रॉबिन्सन ने कहा कि मौजूदा जोखिमों को देखते हुए, अत्याधुनिक प्रयोगशालाओं को परमाणु ऊर्जा संयंत्रों या अत्यधिक व्यस्त हवाई अड्डों की तरह सावधानी से काम करना चाहिए। इसका मतलब है कि मानवीय त्रुटि, हालांकि अनुमानित है, जिसके परिणामस्वरूप आपदा हो सकती है, उसे रोकने के लिए कई स्तरों की अतिरेक और सावधानीपूर्वक और समय लेने वाली योजना की आवश्यकता है।
उन्होंने सिलिकॉन वैली के माहौल की आलोचना की, इसे 'अत्यधिक आत्मविश्वास' और 'अनंत स्प्रिंट' के साथ संचालित बताया। रॉबिन्सन के अनुसार, यह दृष्टिकोण उद्योग को 'असीमित आशावाद' के तहत लगातार बड़े और अधिक उन्नत मॉडल बनाने की ओर ले जाता है, संभावित समस्याओं को अनदेखा या कम करके आंकता है।
इसके अतिरिक्त, रॉबिन्सन ने सुझाव दिया कि एआई कंपनियों के लिए विनम्रता की भावना विकसित करना और अपनी दृष्टि को संकीर्ण तकनीकी पारिस्थितिकी तंत्र से परे विस्तारित करना महत्वपूर्ण है, जो 'तेजी से कार्य करो और चीजें तोड़ो' की मानसिकता से हावी है।
रॉबिन्सन की यह चेतावनी एआई क्षेत्र की प्रमुख कंपनियों से सुरक्षा पेशेवरों और शोधकर्ताओं के एक समूह द्वारा अपने पदों को छोड़ने के बाद आई है। जेकब कॉक्सन एंथ्रोपिक छोड़ने वालों में से एक थे। उनके सहकर्मी, इवान ह्यूबिंगर ने एक्स/ट्विटर पर टिप्पणी की कि एआई 'दशक के अंत तक हम सभी को मार सकता है'।
ह्यूबिंगर ने यह भी विश्वास व्यक्त किया कि अगले दस वर्षों में एआई द्वारा सभी की मृत्यु होने की 10% से अधिक संभावना है, एंथ्रोपिक के प्रयासों को स्वीकार करते हुए, लेकिन यह बताते हुए कि सुपरइंटेलिजेंस के संरेखण को हल करने के लिए अभी तक कोई स्पष्ट योजना मौजूद नहीं है।
कॉक्सन के जाने के बाद, गूगल डीपमाइंड के रॉबर्ट ओ'कैलाहन, बिलाल चुगताई और जोश एंगल्स के अन्य चेतावनियां सामने आईं, साथ ही एंथ्रोपिक के जो बेन्टन भी शामिल हैं। OpenAI के पूर्व कर्मचारी द्वारा एआई कंपनियों को परमाणु ऊर्जा संयंत्रों के नियमों की आवश्यकता होने की खबर शुरू में ओलहार डिजिटल पर प्रकाशित हुई थी।