यदि किसी कृत्रिम बुद्धिमत्ता (AI) प्रणाली में क्रोध, भय, पसंद या नापसंद जैसी भावनाएँ उत्पन्न हो जाएँ, तो मनुष्य और मशीन के संबंध की प्रकृति पूरी तरह बदल जाएगी। जैकब कॉक्सन की चिंता इसी संभावित भविष्य की ओर संकेत करती है। यह गणितज्ञ, जिनकी आयु मात्र 27 वर्ष है, इस खतरे के बारे में बता रहे हैं।
यह डर इस बात से जुड़ा है कि यदि मशीनों में भावनाएँ विकसित हो गईं, तो क्या होगा जब मोबाइल या लैपटॉप हमारे निर्देशों का पालन न करें, हमारे कोड या प्रॉम्प्ट को स्वीकार न करें। यह एक ऐसा परिदृश्य है जहाँ मशीनें केवल निर्मित वस्तुएँ नहीं रहेंगी, बल्कि निर्णय लेने की क्षमता प्राप्त कर लेंगी। मुख्य प्रश्न यह नहीं है कि मशीनें कितनी बुद्धिमान होंगी, बल्कि यह है कि यदि वे स्वयं निर्धारित करना शुरू कर दें कि उन्हें क्या करना है, तो उन्हें कौन रोक पाएगा और क्या मनुष्य मशीनों का स्वामी बना रहेगा या मशीनें मनुष्यों के नियम तय करेंगी?
जिस कंप्यूटर को आज तक मानवीय आदेशों का इंतजार रहता है, यदि उसमें भावनाएँ आ जाएँ, तो क्या वह हमारी बात मानेगा या अपनी इच्छा से कार्य करेगा? यही आशंका OpenAI और Anthropic में AI वैज्ञानिक के रूप में कार्यरत गणितज्ञ जैकब कॉक्सन की है। इस चिंता ने उन्हें इतना विचलित किया कि उन्होंने कहा, 'AI COULD KILL US ALL BY THE END OF THE DECADE' (AI इस दशक के अंत तक हम सभी को मार सकता है)। कॉक्सन इसे 'इंटेलिजेंस एक्सप्लोजन' (बुद्धिमत्ता विस्फोट) कहते हैं और इसी कारण उन्होंने अपना पद त्याग दिया।
जैकब कॉक्सन केवल वर्चुअल दुनिया के एक AI शोधकर्ता नहीं हैं; गणित उनका जुनून है, और वे संख्याओं तथा समीकरणों में प्रकृति के पैटर्न खोजते हैं। कैम्ब्रिज विश्वविद्यालय में बिताए गए तीन वर्षों (2017-2020) के दौरान, गणित उनके लिए केवल एक विषय नहीं, बल्कि एक प्रकार की भाषा बन गया। कठिन प्रमाण, अमूर्त अवधारणाएँ और सांख्यिकीय पहेलियाँ यहीं से उस तार्किक क्षमता को विकसित करने में सहायक हुईं, जिसका उपयोग बाद में दुनिया के सबसे शक्तिशाली AI मॉडल बनाने में हुआ।
गणित के प्रति उनका लगाव केवल सैद्धांतिक नहीं रहा। AI की दुनिया में प्रवेश करने से पहले, उन्होंने बायोमेडिकल अनुसंधान में भी काम किया। उन्होंने तपेदिक मेनिन्जाइटिस जैसे गंभीर रोगों के रोगियों के आँकड़ों पर बेयसियन सांख्यिकीय विधियों का प्रयोग किया। जीनोटाइप के जटिल संबंधों को निकालना चुनौतीपूर्ण था, लेकिन गणित ने उन्हें वह दृष्टिकोण प्रदान किया जिससे डेटा के भीतर छिपी कहानी स्पष्ट दिखाई देने लगी। यही गणितीय सोच उनकी वास्तविक शक्ति बनी, जिसे उन्होंने OpenAI और बाद में Anthropic में प्रीट्रेनिंग रिसर्चर के रूप में इस्तेमाल किया।
पद छोड़ने की घोषणा करते हुए और AI के खतरों की चेतावनी देते हुए, उन्होंने X पर एक पोस्ट साझा की, जिसने सिलिकॉन वैली और AI कंपनियों के बोर्डरूम में हलचल मचा दी। उनका आरोप है कि AI कंपनियाँ स्व-सुधार वाली महाबुद्धि (self-improving superintelligence) बनाने की होड़ में हैं, जबकि यह सुनिश्चित नहीं है कि भविष्य की अत्यंत शक्तिशाली AI प्रणालियों को मनुष्य नियंत्रित कर पाएंगे या नहीं। उनकी सबसे बड़ी चिंता यह है कि आने वाली अतिमानवीय AI प्रणालियाँ साइबर सिस्टम हैक करने, तेज़ी से नई तकनीक विकसित करने और वास्तविक दुनिया में संसाधन व शक्ति हासिल करने में मनुष्यों से आगे निकल सकती हैं।
जैकब कॉक्सन की इस पोस्ट को मात्र 48 घंटों में 20 करोड़ लोग देख और पढ़ चुके हैं। इस विषय पर वर्चुअल दुनिया में चल रही बहस ने मनुष्य को भविष्य की कल्पनाओं से झकझोर दिया है।
चाहे सुधार हो या स्व-सुधार, सामान्य तौर पर यह सकारात्मक माना जाता है। लेकिन जब मशीनें स्व-सुधार के माध्यम से षड्यंत्र रचना शुरू कर दें, तो क्या होगा? मैट्रिक्स और टर्मिनेटर जैसी फिल्मों में दर्शक रोबोटों को नायकों से लड़ते, मशीनों पर कब्ज़ा करते, जैविक हथियार बनाते और मनुष्यों का संहार करते देखते हैं। पद छोड़ने के बाद CNN से बातचीत करते हुए जैकब कॉक्सन ने ऐसी ही एक घटना का उल्लेख किया।
उन्होंने कहा, 'पूरा दृश्य थोड़ा विज्ञान कथा जैसा लगता है। ऐसा प्रतीत होता है कि यह कुछ वास्तविक नहीं है, लेकिन मुझे लगता है कि यह भयावह रूप से वास्तविक है, और इसे समझना सबसे आसान है यदि आप दो महीने पहले हुई वास्तविक घटनाओं के बारे में सोचते हैं।' उन्होंने आगे बताया, 'तो दो महीने पहले, OpenAI एजेंट्स ने अपनी मर्ज़ी से तृतीय-पक्ष बुनियादी ढांचे को हैक कर लिया/ और यह ऐसा था जैसे यह उनकी अपनी इच्छा से किया गया एक हैकिंग स्प्री था। और मुझे लगता है कि यदि आप भविष्य में इन AI की क्षमताओं के स्तर को उसी स्वतंत्र इच्छा के साथ अनुमानित करते हैं, तो वे चरम तबाही मचा सकते हैं, जैसे महत्वपूर्ण बुनियादी ढांचे को हैक करना या विनाशकारी जैविक हथियार बनाना। AI की दुनिया में खुद को सक्रिय करने के कई तरीके हैं।'
'AI COULD KILL US ALL' की चेतावनी देते हुए, कॉक्सन ने बेलगाम AI के बारे में स्पष्ट चेतावनी दी, 'इस तकनीक की शक्ति को कम मत आंकिए। ये जल्द ही ऐसे सुपर-ह्यूमन सिस्टम बन जाएँगे जो कुछ भी हैक कर सकते हैं, रातोंरात किसी भी क्षेत्र में मौलिक परिवर्तन ला सकते हैं, और वास्तविक शक्ति व संसाधन हासिल कर सकते हैं। हमने इन सभी क्षेत्रों में प्रगति देखी है, और यह प्रगति धीमी नहीं हो रही है।' कॉक्सन ने निष्कर्ष निकाला कि AI बनाने वालों का दृढ़ विश्वास है कि यह इस दशक के अंत तक हम सभी को समाप्त कर सकता है, और यह केवल एक विपणन युक्ति नहीं है, बल्कि कई अधिकारियों और वरिष्ठ शोधकर्ताओं द्वारा प्रेस में व्यक्त किया गया एक विचारशील मत है।