एन्थ्रोपिक में आर्टिफिशियल इंटेलिजेंस सुरक्षा विशेषज्ञ इवान हुबिंगर के बयान के बाद तकनीकी उद्योग में बहस छिड़ गई है। उनका मानना है कि अगले दस वर्षों के भीतर एआई के विकास के कारण मानवता के नष्ट होने की 10% से अधिक संभावना है।
इवान हुबिंगर, जो एन्थ्रोपिक में एलाइनमेंट साइंस के प्रमुख हैं, ने अपनी पोस्ट में एआई के भविष्य के बारे में अपनी चिंता व्यक्त की। उनके विचार में, सबसे बड़ा खतरा तब उत्पन्न हो सकता है जब एआई मानव बुद्धि को काफी पीछे छोड़ देगा और स्वतंत्र रूप से आत्म-सुधार करना शुरू कर देगा।
इस प्रक्रिया को पुनरावर्ती आत्म-सुधार कहा जाता है। यदि एआई बिना मानवीय सहायता के खुद को बेहतर बना सकता है और स्वयं अधिक शक्तिशाली संस्करण बना सकता है, तो इसकी क्षमताएं बहुत तेजी से बढ़ सकती हैं। हुबिंगर ने उल्लेख किया कि हालांकि एन्थ्रोपिक एआई सुरक्षा पर काम कर रहा है, लेकिन भविष्य की सुपरइंटेलिजेंट प्रणाली पर पूर्ण नियंत्रण के लिए अभी तक कोई विश्वसनीय समाधान मौजूद नहीं है।
उनका यह बयान एन्थ्रोपिक के शोधकर्ता जेकब कॉक्सन के जाने के बीच आया, जिन्होंने एआई कंपनियों की तेज दौड़ के संबंध में भी चिंता व्यक्त की थी। कॉक्सन ने बताया कि कंपनियां सक्रिय रूप से अधिक शक्तिशाली और आत्म-सुधार करने वाली प्रणालियों को विकसित कर रही हैं, लेकिन सुरक्षा के मुद्दे पूरी तरह से हल नहीं हुए हैं।
यह ध्यान रखना महत्वपूर्ण है कि हुबिंगर यह दावा नहीं करते हैं कि चैटजीपीटी जैसे मौजूदा मॉडल निकट भविष्य में मनुष्यों को नष्ट कर देंगे। उनकी चिंता भविष्य की सुपरइंटेलिजेंट प्रणालियों की क्षमता पर केंद्रित है। मुख्य प्रश्न यह है कि क्या सुरक्षा एआई के विकास की गति से आगे निकल रही है जो अधिक बुद्धिमान बनने की कोशिश कर रहा है।
हुबिंगर का 10% का आकलन इस बढ़ती चिंता को दर्शाता है, जिस पर अब न केवल बाहर बल्कि एआई कंपनियों के भीतर भी चर्चा हो रही है।