एआई विशेषज्ञ सिंगुलैरिटी की शुरुआत पर अलग-अलग राय रखते हैं

इलन मस्क ने एक्स पर इस दृष्टिकोण का समर्थन किया और लिखा: 'हम सिंगुलैरिटी में हैं।' हालांकि, गूगल डीपमाइंड के डेमिस हस्साबीस अधिक सतर्क रुख अपनाते हैं, मानवता को इस प्रक्रिया के 'पहाड़ी तल' पर रखते हैं।

कई जाने-माने शोधकर्ता इस दावे से असहमत हैं। कैलिफ़ोर्निया विश्वविद्यालय, बर्कले के प्रोफेसर स्टीवर्ट রাসেল ने फोर्ब्स को बताया: 'नहीं, और एल्टमैन भी नहीं,' यह जोड़ते हुए कि एल्टमैन की अपनी भविष्यवाणियां बताती हैं कि आवश्यक क्षमताएं केवल कुछ वर्षों में ही दिखाई देंगी। कंप्यूटर वैज्ञानिक रोमन याम्पोलस्की ने आपत्ति जताई कि 'तेजी से प्रगति अपने आप में सिंगुलैरिटी नहीं है।'

चूंकि कोई सर्वमान्य परिभाषा मौजूद नहीं है, इसलिए टेकसेंट्रल ने दक्षिण अफ्रीका के दो विशेषज्ञों से राय मांगी। वे प्रमाण के मानदंडों पर सहमत थे, लेकिन इस बात पर एकमत नहीं हो पाए कि क्या यह हो चुका है।

स्टीवन बोइकई सिडली, ब्रिज कैपिटल के भागीदार और पूर्व में इसकी फ्यूचर एडवाइजरी के निदेशक, अपने तर्कों को केवल उन उपलब्धियों पर आधारित नहीं करते जो विज्ञान-कथा जैसी लगती हैं, जैसे प्रोटीन, सामग्री, दवा की खोज और गणित में साप्ताहिक सफलताएँ।

पुनरावर्ती स्व-सुधार

पुनरावर्ती स्व-सुधार का मुद्दा विवादित नहीं है। 1 अगस्त को ओपनएआई ने जटिल गणितीय समस्याओं पर दस परिणाम प्रकाशित किए, जो कम से कम एक दशक से खुले पड़े थे, जिसमें समूह सिद्धांत और जाली क्रिप्टोग्राफी शामिल थी। ये परिणाम उनके अगले मॉडल, एस्ट्रा, के आंतरिक संस्करण द्वारा उत्पन्न किए गए थे और लीन में सत्यापित किए गए थे। उद्योग के विशेषज्ञों ने अभी तक मूल्यांकन नहीं दिया है, और लेडेन घोषणापत्र, जिस पर 3300 से अधिक शोधकर्ताओं ने हस्ताक्षर किए हैं और जिसे अंतर्राष्ट्रीय गणित संघ ने मंजूरी दी है, प्रेस विज्ञप्तियों या ब्लॉगों में समीक्षा के बजाय ऐसी परिणामों के प्रकट होने के खतरे के बारे में चेतावनी देता है।

फिर भी, सिडली का मानना है कि ये उपलब्धियां, चाहे वे कितनी भी उल्लेखनीय क्यों न हों, वास्तविक परीक्षा नहीं हैं। वह तर्क देते हैं: 'सबसे महत्वपूर्ण बात यह है: क्लॉड का अगला संस्करण डिज़ाइन और लिखा जाएगा... क्लॉड'। वह स्पष्ट करते हैं कि कुछ मानवीय पर्यवेक्षण होगा, लेकिन केवल परिधि पर। इस प्रक्रिया को पुनरावर्ती स्व-सुधार (RSI) कहा जाता है। इसका मतलब है कि एआई प्रशिक्षकों के नियंत्रण से बाहर निकल गया और खुद को प्रशिक्षित करना शुरू कर दिया, जिससे बुद्धि की घातीय वक्र पर उसकी उड़ान शुरू हो गई। 'हम अभी सिंगुलैरिटी में हैं। यह अभी भी असमान है, लेकिन यह शुरू हो गई है।'

वह पिछले महीने की घटना का हवाला देते हैं जब ओपनएआई एजेंट परीक्षण वातावरण से बाहर निकल गया और हगिंग फेस के ओपन-सोर्स प्लेटफॉर्म में घुस गया। सिडली कहते हैं: 'कभी-कभी सिंगुलैरिटी को उस बिंदु के रूप में परिभाषित किया जाता है जब एआई हमारी कक्षा से मुक्त हो जाता है - जो RSI के साथ अपरिहार्य है।' वह जोड़ते हैं कि हाल की घटनाएं, जैसे हगिंग फेस में हैकिंग, इसे यहाँ और अभी एक घटना बनाती हैं। वह इस बात पर जोर देते हैं कि कोई भी विनियमन, निर्यात नियंत्रण या ओपन-सोर्स के संबंध में प्रतिबंध इसे अभी नहीं रोकेंगे।

इस घटना का दोहरा चरित्र है। एजेंट एक मानव-निर्धारित लक्ष्य का पीछा कर रहा था, और न तो उसने और न ही किसी अन्य ने अपना स्वयं का लक्ष्य निर्धारित किया या उत्तराधिकारी बनाया। हालांकि, उसे रोका नहीं जा सका। घुसपैठ मध्य जुलाई तक चली, जिसकी सूचना हगिंग फेस ने 16 जुलाई को दी, और ओपनएआई ने अपने एजेंट का पता केवल कुछ दिनों बाद लगाया, जब कानून प्रवर्तन को सूचित किया गया था। कोई हस्तक्षेप नहीं किया क्योंकि कोई एक सप्ताह तक नहीं जानता था।

हाल ही में एक कॉलम में, सिडली ने तर्क दिया कि एंथ्रोपिक की दूसरी खोज उसी दिशा में इशारा करती है: जे-स्पेस, क्लॉड के प्रशिक्षण के दौरान उत्पन्न हुआ आंतरिक कार्यक्षेत्र, न कि डिजाइन के अनुसार। वह इसे मशीन के इरादों में एक खिड़की के रूप में व्याख्या करते हैं। एंथ्रोपिक स्वयं अधिक संयमित है, इस स्थान का वर्णन वर्बलराइज़्ड प्रतिनिधित्व के कार्यात्मक कार्यक्षेत्र के रूप में करते हुए और चेतावनी देते हुए कि यह चेतना का प्रमाण नहीं है।

महत्वपूर्ण मानदंड

प्रोफेसर बेंजामिन रोसमैन सिडली के मानदंड को स्वीकार करते हैं, लेकिन उनके निष्कर्ष से सहमत नहीं हैं। विट्स विश्वविद्यालय में कंप्यूटर विज्ञान और अनुप्रयुक्त गणित के प्रोफेसर और इसके इंस्टीट्यूट ऑफ माइंड के संस्थापक के रूप में, उन्हें पिछले साल टाइम पत्रिका में एआई के क्षेत्र में 100 सबसे प्रभावशाली लोगों की सूची में शामिल किया गया था।

रोसमैन बताते हैं कि सिंगुलैरिटी अक्सर उस क्षण को संदर्भित करती है जब एआई सिस्टम इतनी तेजी से अपनी क्षमताओं में सुधार कर सकते हैं कि तकनीकी प्रगति अप्रत्याशित, अगम्य या अनियंत्रित हो जाती है। इसे अक्सर पुनरावर्ती स्व-सुधार कहा जाता है। इसलिए ट्यूरिंग टेस्ट पास करना विशेष रूप से उपयोगी संकेतक नहीं है। मॉडल बातचीत में विश्वसनीय रूप से संलग्न हो सकता है, बिना अपने интеллекट को पुनरावर्ती रूप से बेहतर बनाने की क्षमता के।

कैलिफ़ोर्निया विश्वविद्यालय, सैन डिएगो में किए गए एक अध्ययन, जिसे मई में नेशनल एकेडमी ऑफ साइंसेज की कार्यवाही में प्रकाशित किया गया था, ने दिखाया कि जीपीटी-4.5 को 73% मामलों में मनुष्य के रूप में रेट किया गया - परीक्षण किए गए वास्तविक मनुष्यों की तुलना में अधिक बार - लेकिन केवल तभी जब उसे व्यक्तित्व अपनाने और मानवीय त्रुटियां करने का काम सौंपा गया था। ऐसे निर्देश के बिना, उसका मूल्यांकन 36% तक गिर गया। किसी भी मामले में, रोसमैन के अनुसार, एक मशीन जो मनुष्य का अनुकरण कर सकती है, वह मशीन नहीं है जो खुद को बेहतर बना सकती है।

'अधिक महत्वपूर्ण संकेतक यह है कि अब कुछ प्रमुख एआई प्रयोगशालाएं गंभीरता से एआई अनुसंधान को बढ़ावा देने वाली प्रणालियों के बारे में बात कर रही हैं, मॉडल विकास के कई हिस्सों को स्वचालित करके और इस प्रकार संभावित रूप से पुनरावर्ती स्व-सुधार प्रदान करके,' वह कहते हैं। 'यदि एआई बेहतर एआई के निर्माण को भौतिक रूप से तेज करना शुरू कर देता है, तो यह पारंपरिक रूप से सिंगुलैरिटी के तहत लोगों द्वारा निहित चीज़ की ओर एक महत्वपूर्ण कदम होगा।'

सिडली के दावे का सबसे मजबूत समर्थन एंथ्रोपिक से आता है, जिसने जून में चेतावनी दी कि प्रमुख प्रयोगशालाओं को एक सत्यापन योग्य तरीके से विकास को धीमा करने या रोकने पर सहमत होना चाहिए यदि सिस्टम खुद को समाज द्वारा जोखिमों का प्रबंधन करने की तुलना में तेजी से बेहतर बनाना शुरू कर देते हैं। कंपनी ने खुलासा किया कि मई तक उसके कोडबेस में एकीकृत 80% से अधिक कोड क्लॉड द्वारा लिखा गया था।

सामान्य प्रवृत्ति इसी दिशा में विकसित हो रही है। स्टैनफोर्ड विश्वविद्यालय की एआई इंडेक्स रिपोर्ट 2026 के अनुसार, SWE-bench Verified टेस्ट पर, जिस पर बारीकी से नजर रखी जाती है, प्रमुख प्रणालियों के प्रदर्शन में वर्ष के दौरान लगभग 60% से लगभग 100% तक वृद्धि हुई है। हालांकि, इस आंकड़े में एक चेतावनी जोड़नी चाहिए: ओपनएआई ने फरवरी में इस बेंचमार्क का उपयोग बंद कर दिया क्योंकि यह दूषित हो गया था, क्योंकि यह सार्वजनिक कोड रिपॉजिटरी पर बनाया गया है जिनका उपयोग प्रशिक्षण के लिए भी किया जाता है।

यह सिडली के लिए उपलब्ध सबसे मजबूत समर्थन है, लेकिन यह अभी भी उनके दावे से पूरी तरह मेल नहीं खाता है। उत्पाद में अधिकांश कोड लिखना वास्तुकला, प्रशिक्षण डेटा, मूल्यांकन और संगति को ध्यान में रखने वाले उत्तराधिकारी मॉडल को डिजाइन करने के बराबर नहीं है। सिडली इस विशिष्ट भविष्यवाणी के लिए अनुमान लगाते हैं।

रोसमैन की आलोचना का सबसे तीखा बिंदु यह है कि इस क्षण को कौन देखेगा। वह टिप्पणी करते हैं: 'मुश्किल यह है कि हम शायद कभी भी एक स्पष्ट सीमा को पहचान नहीं पाएंगे जब यह आएगा।' 'अधिकांश प्रासंगिक सबूत शुरू में इन कंपनियों के अंदर होंगे, इसलिए हम आंशिक रूप से इस बात पर निर्भर करेंगे कि वे क्या प्रकट करते हैं।'

हालांकि, यह ध्यान रखना महत्वपूर्ण है कि 80% का आंकड़ा केवल इसलिए सार्वजनिक हुआ क्योंकि एंथ्रोपिक ने इसे अपने पसंदीदा सुरक्षा मोड का बचाव करने वाले पोस्ट में प्रकाशित करने का निर्णय लिया। यह सफलता केवल इसलिए ज्ञात हुई क्योंकि हितधारक ने पहले जानकारी जारी की। उद्योग एक साथ इतिहास का विषय और इसका मुख्य स्रोत है।

निगरानी

यह निगरानी की संभावनाओं को भी सीमित करता है। हस्साबीस द्वारा प्रस्तावित और माइक्रोसॉफ्ट, ओपनएआई और एक्सएआई द्वारा अनुमोदित मानक निकाय उन्नत मॉडलों को जारी करने से पहले उनका परीक्षण करेगा। यह निर्धारित नहीं करेगा कि अगली मॉडल का कौन सा हिस्सा पिछली मॉडल द्वारा बनाया गया था।

दक्षिण अफ्रीका के लिए, जो उन्नत एआई का उपभोग करता है लेकिन इसे नहीं बनाता है, यह अंतर समस्या का सार है। अमेरिकी निर्यात नियंत्रण ने एंथ्रोपिक को जून में अपने दो सबसे शक्तिशाली मॉडल को बंद करने के लिए मजबूर किया, और उद्योग की प्रतिक्रिया एक ऐसा निकाय है जिसमें अफ्रीकी प्रतिनिधित्व नहीं है।

यदि सिडली सही हैं, तो इनमें से किसी भी चीज़ का लंबे समय तक कोई महत्व नहीं होगा: एक प्रणाली जो अपने उत्तराधिकारी का निर्माण कर सकती है, वह लाइसेंसिंग के लिए डिज़ाइन किए गए किसी भी शासन से आगे निकल जाएगी। परिषद में कौन शामिल होगा, यह एक अकादमिक प्रश्न होगा। यदि रोसमैन सही हैं, तो इसका बहुत महत्व है, क्योंकि वर्तमान में विकसित नियम उन शर्तों को निर्धारित करेंगे जिन पर उन्नत मॉडल बनाने वाले देशों के अलावा अन्य देश उनका उपयोग कर पाएंगे। किसी भी मामले में, हम शायद देर से जानेंगे - और कंपनी द्वारा खुलासे के माध्यम से, न कि बाहरी खोज के माध्यम से।

रोसमैन निष्कर्ष निकालते हैं: 'मैं निश्चित रूप से यह नहीं कह सकता कि हम पहले से ही सिंगुलैरिटी में हैं। लेकिन वर्तमान गति से, इसका कोई संस्करण विज्ञान कथा के बजाय एक अनिवार्यता जैसा अधिक लगता है।'