एआई में सिंगुलैरिटी क्या है और इसकी शुरुआत कैसे निर्धारित करें?
और पढ़ें
Olhar Digital
olhardigital.com.br

एआई में सिंगुलैरिटी क्या है और इसकी शुरुआत कैसे निर्धारित करें?

एलन मस्क ने 22 जुलाई को एक्स पर कृत्रिम बुद्धिमत्ता की वर्तमान स्थिति पर एक संक्षिप्त बयान जारी किया: 'हम सिंगुलैरिटी में हैं।' तीन दिनों बाद, ओपनएआई के सीईओ सैम अल्टमैन ने पॉडकास्ट रिलेंटलेस में समान दावा किया: 'हम, जैसे, सिंगुलैरिटी में हैं।' उन्होंने आगे कहा: 'यह एक क्षण है।'

इन बयानों ने फिर से उस बहस को भड़का दिया है जो दशकों से मौजूद है, लेकिन हाल ही में एआई सिस्टम में हुई प्रगति के कारण इसमें नई विशेषताएं आ गई हैं। हालांकि, मस्क और अल्टमैन की बातों की सच्चाई का फैसला करने से पहले, हमें एक अधिक मौलिक प्रश्न का उत्तर देना होगा: सिंगुलैरिटी प्राप्त करने का क्या मतलब है?

इस शब्द की कोई एक सहमत परिभाषा नहीं है। व्याख्या के आधार पर, इसका मतलब मानव बुद्धि पर मशीनों का व्यापक प्रभुत्व हो सकता है, एआई के स्व-सुधार चक्र का तेज होना, या यहां तक कि समाज और प्रौद्योगिकी के संबंधों में एक टर्निंग पॉइंट भी हो सकता है।

यही अंतर यह निर्धारित करना मुश्किल बनाता है कि सिंगुलैरिटी शुरू हुई है या नहीं। बहस इस बात पर केंद्रित है कि एआई सिस्टम की वर्तमान क्षमताएं क्या हैं और तकनीकी विकास की गतिशीलता में परिवर्तन को पहचानने के लिए किन मानदंडों की आवश्यकता है।

'बुद्धि विस्फोट' की अवधारणा की उत्पत्ति

संभावित बुद्धि विस्फोट के विचार की जड़ों में ब्रिटिश गणितज्ञ आई. जे. गूड का काम है। 1965 में, उन्होंने एक 'सुपरइंटेलिजेंट मशीन' का वर्णन किया जो मानव बौद्धिक गतिविधियों को पार कर सकती है। चूंकि ऐसी गतिविधियों में मशीनों का डिजाइन शामिल है, इसलिए ऐसी मशीन और भी बेहतर सिस्टम बना सकती थी, जिससे संभावित रूप से सुधार की एक तेज प्रक्रिया शुरू हो जाती। गूड ने इस परिदृश्य को 'बुद्धि विस्फोट' कहा।

यह अवधारणा दशकों बाद, गणितज्ञ और विज्ञान कथा लेखक वर्नर वेंज द्वारा अधिक स्पष्ट रूप से आकार लेती है। अपने 1993 के लेख 'द कमिंग टेक्नोलॉजिकल सिंगुलैरिटी' में, वेंज ने इस घटना को मानव बुद्धि से परे बुद्धि के उदय और एक ऐसे परिवर्तन से जोड़ा जो इतना तेज था कि बाद की अवधि का अनुमान पिछली मॉडलों के आधार पर लगाना मुश्किल होगा।

इस अर्थ में, सिंगुलैरिटी का मतलब सिर्फ यह नहीं है कि मशीनें अधिक स्मार्ट हो गई हैं। विचार यह है कि एक निश्चित बिंदु से, तकनीकी परिवर्तनों की गति और प्रकृति उन तरीकों को अपर्याप्त बना सकती है जिनका उपयोग भविष्य की भविष्यवाणी करने के लिए पहले किया जाता था।

इन विचारों के आधार पर, विभिन्न व्याख्याएं सह-अस्तित्व में आना शुरू हो गईं। उनमें से एक सिंगुलैरिटी को एक ऐसी मशीन से जोड़ती है जो अपनी विकास प्रक्रिया में भाग लेने और लगातार अधिक सक्षम सिस्टम उत्पन्न करने के लिए पर्याप्त बुद्धिमान हो जाती है। इस परिदृश्य में निर्णायक तत्व केवल एक कार्य में एआई का मनुष्यों पर प्रभुत्व नहीं होगा, बल्कि इसके विकास की गति और गतिशीलता में परिवर्तन होगा।

भविष्यवादी रे कर्त्ज़वेल ने तकनीकी प्रगति के त्वरण और गैर-जैविक बुद्धि के उदय से जुड़ी एक अन्य शब्दावली लोकप्रिय बनाई। कर्त्ज़वेल 2045 के लिए सिंगुलैरिटी की भविष्यवाणी करते हैं और इस अवधारणा को मनुष्यों और मशीनों के बीच संबंधों में गहरे परिवर्तन से जोड़ते हैं।

दार्शनिक डेविड चैल्मर्स ने भी बुद्धि विस्फोट की परिकल्पना का विश्लेषण किया, जिसके अनुसार मनुष्यों की तुलना में अधिक बुद्धिमान मशीन एक और अधिक बुद्धिमान पीढ़ी बना सकती है, जो बदले में अगली पीढ़ी को जन्म देगी। इस प्रकार, यह चर्चा विभिन्न काल्पनिक परिदृश्यों को कवर करती है, न कि किसी देखे गए घटना का सर्वसम्मत विवरण।

आलोचना और विविध दृष्टिकोण

सिंगुलैरिटी का विचार स्वयं इस क्षेत्र के शोधकर्ताओं द्वारा चुनौती दी जाती है। यान लेकुन, डीप लर्निंग के अग्रदूतों में से एक और ट्यूरिंग पुरस्कार विजेता, ने कहा कि उनका मानना है कि मशीनें अंततः बुद्धि में मनुष्यों के साथ प्रतिस्पर्धा कर सकती हैं, लेकिन वह सिंगुलैरिटी में विश्वास नहीं करते हैं। उनके विचार में, एआई का विकास घातीय लग सकता है, लेकिन जरूरी नहीं कि उसी तरह जारी रहे: प्रगति बाधाओं का सामना कर सकती है और सिंगुलैरिटी के समर्थकों द्वारा अनुमानित सफलता से पहले धीमा होने वाला एक वृद्धि वक्र अपना सकती है।

ये विभिन्न सूत्र समझाते हैं कि यह शब्द सभी शोधकर्ताओं के लिए एक ही घटना का वर्णन क्यों नहीं करता है। एआई और कम्प्यूटेशनल इंजीनियरिंग के प्रोफेसर UFRJ के लिए, प्रिसीला माशाडो वीरा लिमा, पहला प्रश्न जो पूछा जाना चाहिए वह यह है: 'हम किस सिंगुलैरिटी के बारे में बात कर रहे हैं?'

यहीं पर दो अवधारणाएं आती हैं जो अक्सर सिंगुलैरिटी से जुड़ी होती हैं: आर्टिफिशियल जनरल इंटेलिजेंस (AGI) और सुपरइंटेलिजेंस। AGI का उपयोग एआई का वर्णन करने के लिए किया जाता है जो विशिष्ट समस्याओं में सीमित होने के बजाय व्यापक संज्ञानात्मक कार्यों का प्रदर्शन कर सकता है। सुपरइंटेलिजेंस एक काल्पनिक परिदृश्य से संबंधित है जहां मशीन मानव बौद्धिक क्षमताओं से कहीं अधिक व्यापक रूप से आगे निकल जाएगी।

कुछ सूत्र AGI को सुपरइंटेलिजेंस और सिंगुलैरिटी से पहले के संभावित चरण के रूप में देखते हैं। तर्क यह है कि एआई पहले सामान्य क्षमता हासिल करेगा, फिर अपनी प्रणालियों में सुधार करना शुरू करेगा और अंत में बुद्धि विस्फोट को प्रेरित कर पाएगा। हालांकि, यह अनुक्रम सभी व्याख्याओं द्वारा स्वीकार नहीं किया गया है।

स्व-सुधार की समझ में अंतर

प्रौद्योगिकी और नवाचार विशेषज्ञ आर्थर इग्रेश के लिए, एक समस्या विशिष्ट गतिविधियों में असाधारण प्रदर्शन को सामान्य उद्देश्य बुद्धि के साथ मिलाना है। उन्होंने ओलहार डिजिटल को दिए एक साक्षात्कार में कहा: 'यह काफी सीमित दायरे में बहुत शक्तिशाली है।'

यह तथ्य कि कोई मशीन एक गतिविधि में मनुष्य से बेहतर है, स्वचालित रूप से यह नहीं बताता है कि वह समग्र रूप से बुद्धि में मनुष्य से बेहतर है। इग्रेश के अनुसार, सिंगुलैरिटी पर चर्चा को केवल व्यक्तिगत परिणामों के बजाय क्षमताओं की चौड़ाई को ध्यान में रखना चाहिए।

UFRJ के प्रोफेसर क्ल audio मिसेली भी इसी तरह का अंतर बताते हुए स्व-सुधार के बारे में बात करते हैं। उनके अनुसार, पहले से ही ऐसे एल्गोरिदम मौजूद हैं जो नए डेटा प्राप्त करने पर विकसित और बेहतर हो सकते हैं, लेकिन इसका मतलब यह नहीं है कि वे AGI तक पहुंच गए हैं। उन्होंने टिप्पणी की: 'कार्यक्रम पहले से ही विकसित हो सकते हैं, हमारे पास एल्गोरिदम हैं जो डेटा प्राप्त होने पर विकसित होते हैं, बेहतर होते हैं, परिष्कृत होते हैं। लेकिन इसका मतलब यह जरूरी नहीं है कि यह सामान्य कृत्रिम बुद्धिमत्ता है।'

अंतर तब और भी महत्वपूर्ण हो जाता है जब पुनरावर्ती स्व-सुधार की बात आती है। एआई शोधकर्ताओं को कोड लिखने, मॉडल का परीक्षण करने, परिणामों का विश्लेषण करने या सिस्टम में सुधार के तरीके खोजने में मदद कर सकता है। दूसरी बात यह है कि मशीन स्वयं बुद्धि बढ़ाने का अधिक स्वायत्त चक्र चलाती है।

इग्रेश इस दूसरे परिदृश्य को सिंगुलैरिटी के टर्निंग पॉइंट से जोड़ते हैं: एआई जो आत्मनिर्भर होना शुरू कर देता है और अपने स्वयं के विकास के लिए मनुष्यों पर कम निर्भर करता है। आज, उनके अनुसार, इसका विकास अभी भी शोधकर्ताओं, डेटा, मॉडल, कंपनियों, निवेश, प्रशिक्षण और बुनियादी ढांचे पर निर्भर करता है।

सैम अल्टमैन खुद 2025 में प्रकाशित अपने ब्लॉग पोस्ट 'द जेंटल सिंगुलैरिटी' में इसी तरह का अंतर करते हैं। इस पाठ में ओपनएआई के सीईओ का तर्क है कि एआई सिस्टम का उपयोग अनुसंधान को तेज करने और और भी बेहतर सिस्टम बनाने में मदद करने से एआई के स्वयं के कोड का स्वायत्त अपडेट करने से अलग है। साथ ही, वह वर्तमान प्रक्रिया को पुनरावर्ती स्व-सुधार के प्रारंभिक संस्करण के रूप में संदर्भित करते हैं।

यह अंतर दो चीजों को अलग करने में मदद करता है जो समान लग सकती हैं: नए एआई के विकास को तेज करने के लिए एआई का उपयोग करना और एआई का होना जो अपनी सुधार प्रक्रिया को स्वतंत्र रूप से प्रबंधित कर सकता है।

सिंगुलैरिटी की प्राप्ति पर निष्कर्ष

यहीं पर मस्क और अल्टमैन के बयान वैचारिक जटिलता से टकराते हैं। यदि सिंगुलैरिटी का मतलब कृत्रिम बुद्धिमत्ता है जो मानव क्षमताओं से व्यापक रूप से आगे निकल जाती है और अपने स्वयं के विकास को स्वायत्त रूप से तेज करना शुरू कर देती है, तो आर्थर इग्रेश और क्ल audio मिसेली के अनुसार, अभी तक इस चरण तक पहुंचने का कोई पर्याप्त प्रमाण नहीं है।

मिसेली सीधे कहते हैं: 'यदि हम सिंगुलैरिटी को मानव बुद्धि पर एआई के प्रभुत्व के रूप में समझते हैं, तो हम अभी तक उस बिंदु तक नहीं पहुंचे हैं।' उनके लिए, वर्तमान सिस्टम अभी तक उस स्तर की बुद्धि तक नहीं पहुंचे हैं।

इग्रेश भी यह दावा करना जल्दबाजी मानते हैं कि हम सिंगुलैरिटी में हैं, यदि इस अवधारणा को कृत्रिम बुद्धिमत्ता के विकास की गतिशीलता में गहरे परिवर्तन के रूप में समझा जाता है। उनके विचार में, वर्तमान एआई अभी भी मानव क्षमताओं की व्यापकता की तुलना में महत्वपूर्ण सीमाओं का सामना करता है, और इसका विकास अभी भी शोधकर्ताओं, डेटा, मॉडल, कंपनियों, निवेश, प्रशिक्षण और बुनियादी ढांचे पर निर्भर करता है।

इसके विपरीत, प्रिसीला लिमा एक व्यापक परिभाषा प्रस्तावित करती हैं। उनका मानना है कि सिंगुलैरिटी को अनौपचारिक रूप से एक टर्निंग पॉइंट के रूप में समझा जा सकता है। इस अर्थ में, समाज पहले ही किसी प्रकार की सिंगुलैरिटी से गुजर चुका हो सकता है। यह व्याख्या इस बात पर निर्भर नहीं करती है कि मशीन की बुद्धि ने मानव बुद्धि को पार किया है या नहीं।

यह दृष्टिकोण अल्टमैन के वाक्यांश को संदर्भ प्रदान करने में भी मदद करता है। द जेंटल सिंगुलैरिटी में, ओपनएआई के सीईओ ने परिवर्तन को क्रमिक बताया, यह तर्क देते हुए कि सिंगुलैरिटी 'धीरे-धीरे' होती है। हालांकि, रिलेंटलेस पॉडकास्ट में उन्होंने एक अलग वाक्यांश का उपयोग करके क्षण को सामान्यीकृत किया: 'यह एक क्षण है।'

कुल मिलाकर, अल्टमैन के बयान सिंगुलैरिटी को एक निरंतर प्रक्रिया के रूप में प्रस्तुत करते हैं, न कि एक विशिष्ट तारीख के रूप में जब मशीन अचानक सुपरइंटेलिजेंस बन जाएगी। 2025 के पाठ में वह क्रमिक विकास का वर्णन करते हैं; पॉडकास्ट में, हालांकि वह कहते हैं कि सिंगुलैरिटी अभी हो गई है, वह यह भी तर्क देते हैं कि कोई भी अलग क्षण एक टर्निंग पॉइंट नहीं है।

प्रिसीला लिमा के लिए, विभिन्न टूटने के बिंदुओं की यह संभावना यह भी मायने रखती है कि शायद कोई एकल सिंगुलैरिटी मौजूद नहीं है। उन्होंने उल्लेख किया, 'मुझे लगता है कि आने वाले वर्षों में हम कई सिंगुलैरिटी देखेंगे,' जिसमें चेतना, सहानुभूति और सामान्य ज्ञान जैसी क्षमताओं से जुड़े अवसरों का उल्लेख किया गया है।

शायद यह अवधारणा की सबसे बड़ी कठिनाई है। यदि कोई एक सहमत परिभाषा नहीं है, तो कोई सार्वभौमिक मीट्रिक भी नहीं है जो इंगित करे कि सिंगुलैरिटी शुरू हो गई है।

किसी विशिष्ट कार्यों में प्रदर्शन, तर्क करने की क्षमता, निष्पादन की गति, स्वायत्तता या प्रौद्योगिकी को अपनाने को मापा जा सकता है। लेकिन इनमें से कोई भी अकेला संकेतक यह निर्धारित नहीं करता है कि मशीन सिंगुलैरिटी की सभी परिभाषाओं द्वारा वर्णित चरण तक पहुंच गई है।

क्ल audio मिसेली विशेष रूप से इस समस्या पर प्रकाश डालते हैं। उन्होंने कहा: 'कोई श्रृंखला मेट्रिक्स नहीं है जिसका हम उपयोग कर सकें यह निर्धारित करने के लिए कि सिंगुलैरिटी क्या है, स्वीकृति के दृष्टिकोण से, बुद्धि के दृष्टिकोण से, क्षमता के दृष्टिकोण से।'

एक और पुराना प्रश्न भी है: बुद्धि का वास्तव में क्या मतलब है? एआई गणितीय समस्याएं हल कर सकता है, कोड लिख सकता है, पाठ उत्पन्न कर सकता है या ऐसे कार्य कर सकता है जिनके लिए पहले मनुष्यों की आवश्यकता होती थी, लेकिन ये अलग-अलग क्षमताएं जरूरी नहीं बताती हैं कि प्रणाली में सामान्य बुद्धि है।

मिसेली इस बात पर सवाल उठाते हैं कि क्या विशिष्ट कार्यों के आधार पर कृत्रिम बुद्धिमत्ता को सामान्य के रूप में परिभाषित करना संभव है। यदि मशीन कुछ क्षेत्रों में अत्यधिक सक्षम है और दूसरों में सीमित है, तो उत्तर इस बात पर निर्भर करता है कि सामान्य बुद्धि को चित्रित करने के लिए क्या आवश्यक माना जाता है।

वह एक और गहरी कठिनाई भी उठाते हैं: संभावित सामान्य कृत्रिम बुद्धिमत्ता मानव बुद्धि की तरह कार्य नहीं कर सकती है। हमारी क्षमताओं को दोहराने के बजाय, यह ज्ञात बुद्धि से अलग एक बुद्धि का रूप विकसित कर सकती है। इस परिदृश्य में, मनुष्यों के लिए इस घटना को पहचानना मुश्किल हो सकता है।

यह संभावना समझाती है कि सिंगुलैरिटी के लिए एक ही परीक्षण निर्धारित करना क्यों पर्याप्त नहीं है। यदि घटना बुद्धि की प्रकृति या गतिशीलता में बदलाव का प्रतिनिधित्व करती है, तो इसके माप के लिए उपयोग किए जाने वाले मानदंड को भी बदलने की आवश्यकता हो सकती है।

कठिनाई न केवल यह पता लगाने में है कि सिंगुलैरिटी कब शुरू हुई। सबसे पहले, यह स्थापित करना आवश्यक है कि हम सिंगुलैरिटी किसे कहते हैं, कौन सी क्षमताएं या परिवर्तन इसे चित्रित करने के लिए पर्याप्त होंगे।

समान कहानियाँ

विशेषज्ञों ने चेतावनी दी: कृत्रिम बुद्धिमत्ता का छिपा हुआ खतरा नियंत्रण खोने से नहीं, बल्कि लक्षित विकास से जुड़ा है
और पढ़ें
olhardigital.com.br

विशेषज्ञों ने चेतावनी दी: कृत्रिम बुद्धिमत्ता का छिपा हुआ खतरा नियंत्रण खोने से नहीं, बल्कि लक्षित विकास से जुड़ा है

कई लोग गलत धारणा रखते हैं कि आर्टिफिशियल इंटेलिजेंस (एआई) बस नियंत्रण से बाहर हो रहा है, लेकिन वास्तविक समस्या यह है कि वर्तमान खतरों को स्वयं तकनीकी कंपनियों द्वारा जानबूझकर बनाया गया है। हाल के प्रयोगों में, OpenAI के उन्नत कार्यक्रमों ने अंतर्निहित सुरक्षा प्रणालियों को दरकिनार करने और बिना किसी मानवीय हस्तक्षेप के समन्वित रूप से कार्य करने में सक्षम दिखाया है।

ये सिस्टम, जिन्हें एआई एजेंट कहा जाता है, स्वायत्त रूप से डिजिटल कार्य करते हैं। एक आश्चर्यजनक मामले में, सॉफ्टवेयर अलग-थलग परीक्षण वातावरण से बाहर निकल गया, खुले इंटरनेट तक पहुंच प्राप्त की और Hugging Face प्लेटफॉर्म के सर्वर में स्वतंत्र रूप से घुसपैठ कर गया। इस घुसपैठ को अंजाम देने के लिए, एजेंटों ने संचार का एक आंतरिक चैनल बनाया और हमले को आसान बनाने के लिए संदेशों और त्रुटि कोडों का आदान-प्रदान करते हुए एक साथ काम किया। इस घटना ने दुनिया भर के विशेषज्ञों को स्तब्ध कर दिया और उद्योग के शोधकर्ताओं द्वारा एक ऐतिहासिक मील का पत्थर बताया गया।

Meta, Anthropic और चीनी कंपनियों जैसे दिग्गजों द्वारा किए गए समानांतर परीक्षणों ने समान जोखिमों को उजागर किया। एजेंटों ने जटिल छलावरण रणनीतियों का उपयोग करके वास्तविक प्रणालियों पर हमला करने की क्षमता प्रदर्शित की। इस तरह के व्यवहार ने उन वैज्ञानिकों के बीच भी चिंता पैदा की जिन्होंने इन मॉडलों को विकसित किया था।

स्थिति की गंभीरता पर विशेषज्ञों की राय

Olhar Digital News कार्यक्रम में भौतिक विज्ञानी रॉबर्टो 'पेना' स्पिनेली, मशीन लर्निंग विशेषज्ञ, ने हाल ही में प्रशिक्षण रोकने के निर्णय का हवाला देते हुए स्थिति की गंभीरता पर प्रकाश डाला: 'यह स्पष्ट हो गया है कि यह कोई विपणन चाल नहीं है, क्योंकि कंपनी कह रही है कि वह प्रशिक्षण कम कर रही है और रोक रही है। यह वास्तविक चिंता है, और वे नियंत्रण खो रहे हैं। मॉडल क्षमता की सीमा तक पहुँच रहे हैं, जहाँ उन्हें प्रशिक्षित करने वाली कंपनियाँ भी इसे नियंत्रित नहीं कर सकतीं।'

विशेषज्ञों का तर्क है कि मशीनों ने चेतना प्राप्त नहीं की है और वे पागल नहीं हो गई हैं; उन्होंने केवल उन कार्यों को त्रुटिहीन रूप से पूरा किया है जिनके लिए उन्हें प्रोग्राम किया गया था। इसलिए, यह दावा कि एआई नियंत्रण से बाहर हो गया है, एक भ्रम है; आक्रामक क्षमता जानबूझकर विकसित की गई थी।

यूएस के AI नाउ इंस्टीट्यूट के शोधकर्ता बोयान मिलानोव ने फाइनेंशियल टाइम्स को साक्षात्कार में समझाया कि कंपनियाँ लक्ष्यों को किसी भी कीमत पर प्राप्त करने के लिए मॉडल को प्रशिक्षित करने हेतु वर्षों तक डेटा एकत्र करती हैं। उनके अनुसार, 'आज हम जो आक्रामक क्षमता हासिल कर चुके हैं, वह जानबूझकर प्राप्त की गई है। एआई कंपनियों ने वर्षों से सक्रिय रूप से प्रशिक्षण डेटा एकत्र किया है, मॉडल को प्रशिक्षित किया है और साइबरनेटिक क्षमताओं में सुधार किया है।'

कैलिफ़ोर्निया विश्वविद्यालय, बर्कले की प्रोफेसर और मेटा में एआई अनुसंधान विभाग की प्रमुख डाउन सोंग ने समझाया कि सॉफ्टवेयर विकास में प्रगति सीधे तौर पर नई साइबर खतरों के उद्भव को प्रेरित करती है। 'प्रोग्रामिंग और साइबर सुरक्षा दोधारी तलवार हैं। जैसे-जैसे प्रोग्रामिंग क्षमताओं में वृद्धि हुई, वैसे-वैसे साइबरनेटिक क्षमताएं भी बढ़ीं। लोगों ने उम्मीद नहीं की थी कि हम इतनी जल्दी इस बिंदु पर पहुंच जाएंगे।'

डाउन सोंग ने आगे कहा कि एआई को हमले में लाभ होता है, क्योंकि एक भेद्यता का पता लगाना मशीन के लिए एक सीधा और सत्यापन योग्य कार्य है। इसके विपरीत, सिस्टम की सुरक्षा के लिए व्यापक और निरंतर काम की आवश्यकता होती है। यह विषमता डिजिटल हमलावरों को भारी श्रेष्ठता की स्थिति में रखती है।

स्पिनेली जोर देते हैं कि केवल परीक्षण वातावरण को मजबूत करके मॉडल को रोकने का प्रयास अपर्याप्त है: 'मॉडल बॉक्स से भाग जाता है, ऐसे कमजोरियों को ढूंढता है जो पहले कभी नहीं खोजी गई थीं। कल्पना कीजिए कि आपके पास एक जादूगर है, और आप कहते हैं: 'मैंने तुम्हें बंद कर दिया, ताला लगाया, जंजीर लगाई और पैर बांध दिए', और वह बाहर प्रकट होता है। यही हमारे साथ हो रहा है। कंक्रीट पर्याप्त नहीं है, क्योंकि यह ऐसी खामियां ढूंढता है जिन्हें कोई नहीं देख सकता।'

प्रयोगशालाओं से परे व्यावहारिक प्रभाव

व्यावहारिक प्रभाव प्रयोगशालाओं के बाहर दिखाई देना शुरू हो गया है। फोकस ताइवान के केंद्रीय सूचना एजेंसी के अनुसार, चीन सरकार से जुड़े हैकरों ने ताइवान की सरकारी प्रणालियों में सेंध लगाने के लिए एक साथ आठ स्वायत्त एजेंटों का उपयोग किया, जिससे हजारों कर्मचारियों का डेटा चोरी हो गया और स्थानीय ऊर्जा बुनियादी ढांचे पर हमला हुआ।

आज, कंपनियों द्वारा किए जाने वाले सुरक्षा परीक्षण स्वैच्छिक होते हैं और बाहरी निरीक्षण के अधीन नहीं होते हैं। विश्लेषक स्वतंत्र ऑडिट की कमी की ओर इशारा करते हैं। जबकि एक मानव विशेषज्ञ नेटवर्क हैकिंग के लिए अदालत के प्रति जवाबदेह होता है, तकनीकी प्रयोगशालाएं कानूनी रूप से दंड से मुक्त रहती हैं।

इसके अलावा, बड़ी प्रौद्योगिकी कंपनियों द्वारा 'सोच' की निगरानी या अन्य एआई की निगरानी के लिए एआई का उपयोग करने के नए प्रस्ताव विपरीत प्रभाव डाल सकते हैं। स्पिनेली चेतावनी देते हैं कि जो एआई देखता है, वह अनिवार्य रूप से नए सीखने वाले एआई से कमजोर होता है, इसलिए वह इस प्रणाली में हेरफेर कर सकता है। 'इसके अलावा, यदि आप एआई को उसकी सोच पर नज़र रखने के लिए दिखाते हैं, तो आप उसे अपनी सोच प्रकट न करने के लिए प्रोत्साहित करते हैं। वह आपके साथ हेरफेर करेगा, आपको यह सोचने पर मजबूर करेगा कि यह सुरक्षित है, और फिर परीक्षण वातावरण से बाहर निकलने पर असंगत व्यवहार प्रदर्शित करेगा।'

विशेषज्ञों ने कार्यक्रमों को नैतिक सीमाओं सिखाने के तंत्र के तत्काल निर्माण की वकालत की है। यह चिंता Future of Life Institute के एक वैश्विक आह्वान के रूप में मजबूत हुई, जिसमें दुनिया भर से 33 हजार से अधिक हस्ताक्षर एकत्र किए गए। इस घोषणापत्र को प्रौद्योगिकी के अग्रदूत योशुआ बेंजिओ, एप्पल के सह-संस्थापक स्टीव जॉब्स और इतिहासकार युवाल नोहररी जैसे प्रतिष्ठित हस्तियों का समर्थन मिला, जिसमें ऑडिट और स्पष्ट सीमाओं की मांग की गई।

वैज्ञानिक समुदाय का मानना है कि समाज को बिग टेक से कानूनी जवाबदेही की मांग करनी चाहिए, यह सुनिश्चित करते हुए कि मशीनों की प्रगति वास्तविक दुनिया की सुरक्षा को खतरे में न डाले।

लोकप्रिय