एवन ह्यूबिंगर, एंथ्रोपिक में अलाइनमेंट निदेशक द्वारा 8 सितंबर को यह दावा किया गया था कि आर्टिफिशियल इंटेलिजेंस (एआई) द्वारा पूरी मानवता का सफाया होने की 10% से अधिक संभावना है, और यह जल्दी ही सोशल मीडिया पर चर्चा का विषय बन गया। हालांकि, डॉ. अल्वारो माचाडो डियास, एक न्यूरोसाइंटिस्ट, भविष्यवादी और यूनिफेस्प के प्रोफेसर ने इस विचार को मात्र एक कथा बताया, और ओल्हार डिजिटल को दिए गए एक साक्षात्कार में कहा कि 'इस बात में ज़रा भी संभावना नहीं है'।
ह्यूबिंगर की यह पोस्ट जेकब कॉक्सन के एक पिछले ट्वीट का संदर्भ दे रही थी, जिन्होंने ओपनएआई और एंथ्रोपिक दोनों में काम किया था और एआई मॉडल के प्री-ट्रेनिंग पर ध्यान केंद्रित किया था। कॉक्सन ने एंथ्रोपिक छोड़ने के तुरंत बाद एक चेतावनी दी थी, जिसमें सुझाव दिया गया था कि दोनों कंपनियां 'स्वयं को बेहतर बनाने में सक्षम सुपरइंटेलिजेंस की ओर दौड़ रही हैं और हमारे जीवन दांव पर लगा रही हैं'।
ह्यूबिंगर ने अपने विश्वास को मजबूत करते हुए कहा: 'हम पूरी गंभीरता से मानते हैं कि एआई मनुष्यों को मार सकता है! व्यक्तिगत रूप से, मुझे लगता है कि अगले दशक में इसकी संभावना 10% से अधिक है।' उन्होंने यह भी जोड़ा कि हालांकि उनका मानना है कि एंथ्रोपिक अपना सर्वश्रेष्ठ कर रही है, फिर भी सुपरइंटेलिजेंस की अलाइनमेंट समस्या को हल करने के लिए कोई स्पष्ट योजना नहीं है।
प्रौद्योगिकी और नवाचार विशेषज्ञ आर्थर इग्रह ने कार्यप्रणाली पर संदेह व्यक्त किया, और पूछा कि ह्यूबिंगर 10 प्रतिशत तक कैसे पहुंचे, गणना की आधारशिला मांगी। इग्रह ने आगे कहा कि जोखिम तालिका में, उन्हें दशक के अंत तक लोगों द्वारा लिए गए गलत निर्णयों से अधिक डर है।
अल्वारो माचाडो डियास ने दोहराया कि एआई के विद्रोह करने, इरादे हासिल करने या मनुष्यों पर हमला करने का विचार विशुद्ध रूप से कथात्मक है। उन्होंने समझाया कि इसके लिए मनुष्यों और अन्य प्रजातियों में मौजूद प्रकार के इरादे की आवश्यकता होगी, जो मशीनों में नहीं देखा जाता है। इसके अलावा, उन्होंने ऐसे परिदृश्य के लिए दृश्य निष्पादन क्षमता की कमी की ओर इशारा किया।
न्यूरोसाइंटिस्ट ने इस बात पर जोर दिया कि एआई को अत्यधिक संवेदनशील संसाधनों तक पहुंच की आवश्यकता होती है, जैसे जैविक हथियार संश्लेषण के लिए प्रयोगशालाएं, जो अत्यधिक विनियमित क्षेत्र हैं। हालांकि, उन्होंने स्वीकार किया कि एआई डिजिटल इंटरफेस के माध्यम से बड़े नुकसान पहुंचा सकता है, कंप्यूटर वायरस बनाने या अस्पतालों के संवेदनशील डेटाबेस को हाईजैक करने के लिए डिज़ाइन किए गए एआई का उदाहरण दिया।
माचाडो डियास ने एक महत्वपूर्ण अंतर किया: यह अंतर करना आवश्यक है कि 'कैसे' के क्षेत्र में क्या व्यवहार्य है (व्यावहारिक वास्तविकता) और वह क्या है जो 'कैसे' का विश्लेषण करने पर बस समझ में नहीं आता है। समानांतर रूप से, एंथ्रोपिक के सीईओ डारियो अमोडेई ने 12 सितंबर को एक लेख प्रकाशित किया जिसमें स्वीकार किया कि एआई के विकास की तेज गति, 'पुनरावर्ती स्व-सुधार' के कारण, उद्योग की कंपनियों के बीच समन्वित धीमापन की मांग करती है।
इस प्रस्ताव का समर्थन सैम अल्टमैन (ओपनएआई), एलोन मस्क (एक्सएआई) और डेमिस हसबिस (पूर्व गूगल डीपमाइंड सीईओ) ने किया। हसबिस ने अमोडेई के निबंध का समर्थन किया, जबकि मस्क ने अमोडेई के बयान से सहमति व्यक्त की। अल्टमैन ने स्पष्ट किया कि धीमा करने का मतलब रुकना नहीं है, बल्कि यह सुनिश्चित करने के लिए ऑडिट और सुरक्षा परीक्षणों में निवेश करना है कि मॉडलों की क्षमता उनके अलाइनमेंट से अधिक न हो जाए।
इसके विपरीत, डोनाल्ड ट्रम्प ने अमोडेई, अल्टमैन और मस्क की चेतावनियों को नजरअंदाज कर दिया, एआई के जोखिमों को कम करके आँका और चीन पर अमेरिका के नेतृत्व को बनाए रखने का बचाव किया। चीन ने राज्य समाचार पत्र ग्लोबल टाइम्स के माध्यम से अमोडेई के लेख पर प्रतिक्रिया व्यक्त की, यह आरोप लगाते हुए कि पहल का उद्देश्य चीनी विस्तार को रोकने और अमेरिकी तकनीकी प्रभुत्व की रक्षा के लिए 'शीत युद्ध मैनुअल' बनाना था।
माचाडो डियास ने इस बात पर प्रकाश डाला कि एआई की प्रगति का रुकना सरकारी प्राधिकरण पर निर्भर नहीं करता है, बस विकास बंद करना पर्याप्त है। उन्होंने टिप्पणी की कि रुकने में हिचकिचाहट का कारण यह है कि बड़ी कंपनियों (एंथ्रोपिक, ओपनएआई, गूगल, एक्सएआई) में से कोई भी अकेले इस रुख को अपनाने के लिए तैयार नहीं लगती है। उन्होंने निष्कर्ष निकाला कि रणनीतिक रूप से, सतर्क रुख अपनाना फायदेमंद है, क्योंकि यह संभावित कॉर्पोरेट जोखिम को सरकारी और सामाजिक दायरे में स्थानांतरित करता है।
यूएस और चीन की सरकारों के रुख पर, विशेषज्ञ ने बताया कि हालांकि अमेरिकियों ने विकास शुरू किया (चैटजीपीटी के साथ) और अधिक निवेश किया है, लेकिन धीमापन पर चर्चा की चीनी स्थिति वैध है। हालांकि, उन्होंने चेतावनी दी कि दोनों देश अपनी तकनीक का वैश्विक स्तर पर विस्तार करना चाहते हैं, और अंततः, 'कोई भी रुकावट नहीं चाहता है'।
}