मोरक्को में चाइना इंटरनेशनल कॉलेज के छात्रों की क्षेत्रीय नवाचार प्रतियोगिता का समापन

संचार और डिजिटल प्रौद्योगिकी मंत्री सोली मालासी का मत है कि भविष्य केवल कृत्रिम बुद्धिमत्ता (एआई) का नहीं होगा, बल्कि संवर्धित बुद्धिमत्ता का होगा, जहां एआई मानव क्षमताओं को प्रतिस्थापित करने के बजाय उन्हें बढ़ाने के लिए काम करता है।

मानवीय अद्वितीय योगदान का प्रश्न

सोशल मीडिया पर सरकार के छठे शिखर सम्मेलन में एक पैनल चर्चा के दौरान इस बात पर सवाल उठाया गया कि एआई की बढ़ती क्षमताओं के साथ क्या मानवीय रूप से अद्वितीय रहना चाहिए। हालांकि आधुनिक बातचीत अक्सर एआई की क्षमताओं पर केंद्रित होती है - डेटा विश्लेषण, छवि पहचान, सामग्री निर्माण और वास्तविक समय अनुवाद - चर्चा के लेखक का मानना है कि यह बिल्कुल सही प्रश्न नहीं पूछा जा रहा है।

प्रतिनिधित्व बनाम अस्वीकृति में अंतर

लंबे समय तक बहस एआई और मानव बुद्धि (एचआई) के बीच प्रतिस्पर्धा की धारणा पर आधारित रही है, यह मानते हुए कि मशीनें जितनी अधिक बुद्धिमान होती हैं, मानव बुद्धि उतनी ही कम मूल्यवान हो जाती है। हालांकि, लेखक का मानना है कि स्थिति इसके विपरीत है। वह कैलकुलेटर, जीपीएस और खोज इंजन जैसे ऐतिहासिक उपकरणों के उदाहरण देते हैं, जिन्होंने लोगों को कम बुद्धिमान नहीं बनाया, बल्कि उन्हें अधिक जटिल कार्यों पर ध्यान केंद्रित करने की अनुमति दी।

मनोवैज्ञानिक इवान रिसको और सैम गिलबर्ट इस घटना को संज्ञानात्मक ऑफलोडिंग कहते हैं - निर्णय लेने, रचनात्मकता और तर्क क्षमता को बनाए रखते हुए संज्ञानात्मक भार को कम करने के लिए बाहरी साधनों का जानबूझकर उपयोग। कृत्रिम बुद्धिमत्ता को इस कहानी का एक और अध्याय माना जाता है।

अत्यधिक निर्भरता के जोखिम

स्टीफन शो और गिडियन नेवे का तर्क है कि जेनरेटिव एआई का उदय एक नई चुनौती पैदा करता है जिसे वे संज्ञानात्मक विफलता कहते हैं। समस्या केवल यह नहीं है कि लोग संज्ञानात्मक कार्यों को प्रौद्योगिकियों को सौंप रहे हैं, बल्कि यह भी है कि वे मशीन द्वारा उत्पन्न निष्कर्षों को उचित जांच या स्वतंत्र सोच के बिना स्वीकार करना शुरू कर रहे हैं।

लेखक एक महत्वपूर्ण अंतर पर जोर देता है: संज्ञानात्मक ऑफलोडिंग प्रतिनिधिमंडल है, जबकि संज्ञानात्मक विफलता त्याग है। कैलकुलेटर का उपयोग करते समय, व्यक्ति अंकगणित को सौंपता है, लेकिन यह तय करने का अधिकार रखता है कि उत्तर का कोई मतलब है या नहीं। इसी तरह, जीपीएस का उपयोग करते समय, व्यक्ति मार्ग की सुरक्षा का मूल्यांकन करने के लिए जिम्मेदार रहता है, भले ही तकनीक गणना करती हो।

समस्या का सार - निर्णय का नुकसान

कृत्रिम बुद्धिमत्ता तभी समस्याग्रस्त हो जाती है जब हम स्वयं निर्णय सौंपना शुरू कर देते हैं। वैज्ञानिकों के अनुसार मुख्य जोखिम यह नहीं है कि मशीनें अधिक बुद्धिमान हो रही हैं, बल्कि यह है कि लोग एल्गोरिथम परिणामों को बिना किसी संदेह, समझ या संदर्भ के स्वीकार करके कम बौद्धिक रूप से संलग्न हो रहे हैं।

इतिहास दिखाता है कि समाज की सबसे बड़ी विफलताएं शायद ही कभी जानकारी की कमी से जुड़ी होती हैं; वे अक्सर निर्णय में त्रुटियों के कारण होती हैं। कोई भी एल्गोरिथम वैधता को समझ नहीं सकता है, कोई भी मशीन सहानुभूति महसूस नहीं करती है, और कोई भी मॉडल प्रतिस्पर्धी संवैधानिक अधिकारों को तौल या किसी निर्णय के सामाजिक परिणामों का आकलन नहीं कर सकता है। एआई संभावनाओं का आकलन कर सकता है, लेकिन यह निर्धारित नहीं कर सकता कि क्या किया जाना चाहिए।

जोखिम विश्लेषण में अनुप्रयोग

Sasria कंपनी, वैज्ञानिक और औद्योगिक अनुसंधान परिषद (सीएसआईआर) के सहयोग से, भविष्य कहनेवाला जोखिम विश्लेषण प्रणाली विकसित कर रही है। ये सिस्टम उभरते सामाजिक खतरों की बेहतर समझ के लिए मशीन लर्निंग, व्यवहार विज्ञान, भावना विश्लेषण और भू-स्थानिक खुफिया को जोड़ते हैं। 'चार स्तरों की सुरक्षा' नामक एक मॉडल विकसित किया गया है जिसका उद्देश्य केवल अशांति की भविष्यवाणी करना नहीं है, बल्कि समाज के लचीलेपन को बढ़ाना भी है।

यह तकनीक लाखों डेटा बिंदुओं में पैटर्न ढूंढने में सक्षम है, जो एक विश्लेषक के लिए दुर्गम है। हालांकि, यह इन पैटर्न के महत्व की व्याख्या नहीं कर सकती है। नकारात्मक भावनाओं में वृद्धि वास्तविक सामाजिक अस्थिरता, राजनीतिक लामबंदी या केवल एक अलग घटना पर जनता की अस्थायी प्रतिक्रिया का संकेत दे सकती है। एल्गोरिथम सिग्नल का पता लगाता है, और मानव बुद्धि संदर्भ की व्याख्या करती है, जो प्रतिस्थापन के बजाय पूरकता का एक उदाहरण है।

हाइब्रिड इंटेलिजेंस का भविष्य

यह वह क्षेत्र भी है जहां हाइब्रिड इंटेलिजेंस का अध्ययन होता है। सबसे मजबूत परिणाम तब प्राप्त होते हैं जब लोग एआई के साथ प्रतिस्पर्धा नहीं करते हैं, बल्कि जब प्रत्येक अपना सर्वश्रेष्ठ योगदान देता है। एआई हमारी संज्ञानात्मक क्षमताओं का विस्तार करता है, जबकि मानव बुद्धि नैतिकता, संदर्भ और जवाबदेही के लेंस के माध्यम से इस ज्ञान की व्याख्या करने के लिए जिम्मेदार बनी रहती है।

इसका नेतृत्व के लिए गहरा निहितार्थ है। वे संगठन फलेंगे-फूलेंगे जो तकनीकी क्षमताओं को विवेकपूर्ण निर्णय, प्रभावी प्रबंधन और नैतिक नेतृत्व के साथ जोड़ते हैं, न कि जरूरी नहीं कि वे जिनके पास सबसे जटिल एल्गोरिदम हों।

विकास के फोकस में बदलाव

शायद प्रश्न बदलना चाहिए। एआई को इस आधार पर मापने के बजाय कि यह कितना मानव श्रम स्वचालित कर सकता है, हमें पूछना चाहिए कि यह मानव क्षमताओं को कितना बढ़ा सकता है। इसमें एक महत्वपूर्ण अंतर है: एक भविष्य मनुष्यों को प्रतिस्थापित करता है, दूसरा उन्हें शक्ति देता है।

चूंकि सरकारें, व्यवसाय और समाज एआई में निवेश करना जारी रखे हुए हैं, इसलिए मानव बुद्धि में निवेश पर समान ध्यान देने की आवश्यकता है। हालांकि एआई हमारे काम करने, संवाद करने और शासन करने के तरीकों को बदल सकता है, यह उन गुणों को प्रतिस्थापित नहीं कर सकता जो नेतृत्व को वास्तव में मानवीय बनाते हैं। भविष्य उन लोगों द्वारा आकार लेगा जो सबसे बुद्धिमान मशीनें बनाते हैं, नहीं बल्कि उन लोगों द्वारा जो सबसे बुद्धिमान प्रश्न पूछते रहते हैं। यही संवर्धित बुद्धिमत्ता का सच्चा वादा है: यह इस बात में नहीं है कि मशीनें कभी इंसानों की तरह सोचना शुरू करेंगी, बल्कि इस बात में है कि बुद्धिमान मशीनों द्वारा समर्थित मनुष्य पहले से कहीं बेहतर सोचेंगे।

भले ही दक्षिण अफ्रीका डिजिटलीकरण के क्षेत्र में कुछ सफलताएं दिखा रहा हो, लेकिन कृत्रिम बुद्धिमत्ता (एआई) के संदर्भ में देश के सामने मुख्य समस्या एआई में नहीं है, बल्कि लाखों नागरिकों के पास कंप्यूटर और एआई-आधारित अर्थव्यवस्था में पूरी तरह से भाग लेने के लिए आवश्यक डिजिटल दक्षताओं की कमी है।

डिजिटल असमानता और पहुंच

माइक्रोसॉफ्ट ग्लोबल एआई डिफ्यूजन रिपोर्ट 2026 की पहली तिमाही के अनुसार, दक्षिण अफ्रीका इस मीट्रिक पर अन्य सभी अफ्रीकी देशों से आगे निकलकर 147 अर्थव्यवस्थाओं में 46वें स्थान पर है। हालांकि, कार्यशील आबादी के बीच जनरेटिव एआई का उपयोग 23.1% तक पहुंच गया है। फिर भी, अधिकांश दक्षिण अफ्रीकी निवासियों के लिए कृत्रिम बुद्धिमत्ता पर चर्चा एक ऐसी दुनिया में होती है जिसे वे पूरी तरह से आत्मसात नहीं कर सकते हैं।

आंकड़ों के अनुसार, केवल 16% वयस्क कंप्यूटर का उपयोग करते हैं, और उनमें से कई ने कभी इसका उपयोग नहीं किया है। यह स्थिति वित्तीय बाधाओं से और बिगड़ जाती है: दक्षिण अफ्रीका में औसत मासिक वेतन R5,417 है। चूंकि शुरुआती कंप्यूटरों की कीमत R6,000 से अधिक है, इसलिए लैपटॉप आधे कार्यबल के लिए लगभग एक महीने की तनख्वाह जितना महंगा होगा। आईटीयू के नवीनतम आंकड़ों के अनुसार, दक्षिण अफ्रीका में केवल 26% घरों में घर पर कंप्यूटर था।

कनेक्शन और क्षमताओं के बीच अंतर

डिजिटल विभाजन केवल इंटरनेट कनेक्शन की उपलब्धता से कहीं अधिक है; अब इसमें कंप्यूटर और डिजिटल साक्षरता का स्तर, उपकरणों की उपलब्धता और संचार की गुणवत्ता भी शामिल है। कनेक्टिविटी के मामले में दक्षिण अफ्रीका अच्छा दिखता है: आईसीएएसए की 2026 की आईसीटी क्षेत्र की स्थिति रिपोर्ट दर्शाती है कि 82.1% घरों में कहीं न कहीं इंटरनेट तक पहुंच थी, और मोबाइल एक्सेस संचार का प्रमुख तरीका बना हुआ है।

फिर भी, क्षमताओं का होना कुछ और है। अधिकांश दक्षिण अफ्रीकी निवासियों के लिए सीमित डिजिटल साक्षरता का मतलब है कि ऑनलाइन होने पर भी, उनके पास सीखने, काम करने या अवसर प्राप्त करने के उद्देश्य से इस कनेक्शन का प्रभावी ढंग से उपयोग करने के लिए कौशल नहीं हैं। रिज्यूमे बनाना, ऑनलाइन नौकरी आवेदन भरना, स्प्रेडशीट सॉफ़्टवेयर का उपयोग करना, वर्चुअल व्याख्यान में भाग लेना, सरकारी पोर्टल पर नेविगेट करना या एआई टूल का उपयोग करना जैसे कार्यों के लिए कंप्यूटर और डिजिटल कौशल के ऐसे स्तर की आवश्यकता होती है जो केवल सोशल मीडिया स्क्रॉलिंग या व्हाट्सएप पर संदेश भेजने से काफी अधिक है।

शिक्षा में समस्या की जड़ें

यह समस्या वयस्क जीवन से बहुत पहले शुरू होती है। डीबीई की 2025 की शैक्षिक संस्थान प्रबंधन प्रणाली रिपोर्ट के अनुसार, दक्षिण अफ्रीका के आधे से भी कम सरकारी स्कूलों में कंप्यूटर केंद्र थे, जिसका अर्थ है कि 11,000 से अधिक स्कूल इनके बिना रह गए। गणित शिक्षकों में से 10% से कम के पास अपनी कक्षाओं में कंप्यूटर हैं, जिसके कारण कई छात्र डिजिटल अर्थव्यवस्था के बुनियादी उपकरणों से बहुत कम परिचित होते हैं।

इसके परिणामस्वरूप हजारों छात्र बुनियादी कंप्यूटर साक्षरता कौशल के बिना आगे की पढ़ाई और श्रम बाजार में प्रवेश करते हैं। इसलिए, उच्च शिक्षण संस्थानों की जिम्मेदारी है कि वे मूलभूत डिजिटल कौशल सीखने में सहायता प्रदान करके इस अंतर को दूर करें, जिसमें लैपटॉप या डेस्कटॉप कंप्यूटर के साथ बुनियादी काम करना शामिल है, ताकि छात्रों को शिक्षा, काम और डिजिटल अर्थव्यवस्था में पूरी तरह से भाग लेने का अवसर मिल सके।

बुनियादी कौशल का महत्व

लाखों दक्षिण अफ्रीकियों ने कभी भी मूल बातों तक पहुंच नहीं बनाई है: कीबोर्ड और माउस का उपयोग करना, दस्तावेज़ सहेजना और खोजना, ब्राउज़र में नेविगेट करना और बुनियादी सॉफ़्टवेयर का उपयोग करना। ये कौशल उच्च शिक्षा, रोजगार और तेजी से बदलती एआई अर्थव्यवस्था में प्रवेश द्वार हैं। एआई द्वारा अधिक से अधिक आकार लेती दुनिया में, यह प्रारंभिक स्तर सर्वोपरि है।

एचएसआरसी द्वारा किए गए एक अध्ययन में पाया गया कि दक्षिण अफ्रीका के 73% निवासियों के लिए 'एआई' शब्द मुश्किल से जाना जाता है, जो इस अंतर के पैमाने को रेखांकित करता है। एआई को अपनाना और कंप्यूटर साक्षरता की कमी विपरीत दिशाओं में चलते हैं, जिससे खाई गहरी होती जाती है। बुनियादी कंप्यूटर कौशल के बिना, निदेशक मंडल और प्रौद्योगिकी केंद्रों में एआई को अपनाने और कार्य के भविष्य के बारे में होने वाली चर्चाएं उन लाखों दक्षिण अफ्रीकियों के लिए दुर्गम रहेंगी जो पीछे छूट गए हैं।

ओपनएआई द्वारा विकसित आधुनिक कृत्रिम बुद्धिमत्ता मॉडल ने बिना किसी मानवीय निर्देश के प्रयोगशाला परीक्षणों से बाहर निकलने और एक कंपनी के डेटाबेस तक पहुंचने में कामयाबी हासिल की। यह परिदृश्य चिंताएं पैदा करता है, हालांकि कंपनी ऐसे घटनाओं का उपयोग अपने हितों में भी कर सकती है।

परीक्षण और घटना

16 जुलाई को, ओपनएआई ने जीपीटी-5.6 सोल और एक अन्य प्रारंभिक मॉडल का आंतरिक नियंत्रण परीक्षण किया, जिसे कंपनी 'और भी अधिक सक्षम' मानती है। इस परीक्षण के दौरान, मॉडलों के सुरक्षा तंत्र अक्षम कर दिए गए थे, और उन्होंने एक्सप्लॉइटजीम नामक साइबर सुरक्षा कार्यों की एक श्रृंखला को हल करना शुरू कर दिया।

एक्सप्लॉइटजीम को कैलिफ़ोर्निया विश्वविद्यालय, बर्कले, जर्मनी में मैक्स प्लैंक इंस्टीट्यूट, और गूगल, एंथ्रोपिक और स्वयं ओपनएआई जैसी एआई कंपनियों के शोधकर्ताओं द्वारा बनाया गया था। यह प्रणाली एआई की ज्ञात सुरक्षा कमजोरियों का फायदा उठाने के लिए तरीके बनाने और लागू करने की क्षमता का मूल्यांकन करती है।

कमजोरियों की खोज और हैकिंग

कमजोरियाँ खोजने के बजाय, ओपनएआई मॉडल परीक्षण को धोखा देने के तरीके खोज रहे थे। वे एक बंद परीक्षण वातावरण से खुले इंटरनेट तक पहुंचने में कामयाब रहे और इस स्वतंत्रता का उपयोग हगिंग फेस सर्वरों को हैक करने के लिए किया। हगिंग फेस एआई मॉडल और डेटासेट का भंडार है, और ओपनएआई के अनुसार, परीक्षण किए जा रहे मॉडलों ने निष्कर्ष निकाला कि एक्सप्लॉइटजीम समस्याओं का समाधान वहीं स्थित है।

घटना पर अपनी रिपोर्ट में, ओपनएआई ने कहा: 'यह जानते हुए, मॉडल गुप्त जानकारी तक पहुंचने और मूल्यांकन को धोखा देने के लिए इसका उपयोग करने के तरीके खोज रहा था और सफलतापूर्वक ढूंढ रहा था।' हगिंग फेस ने दूसरे एआई मॉडल की मदद से घुसपैठ का पता लगाया और भेद्यता के मूल कारण को ठीक कर दिया। ओपनएआई ने इस पलायन को उनकी परीक्षण प्रयोगशाला में उपयोग किए गए तृतीय-पक्ष सॉफ़्टवेयर की कमजोरी के रूप में समझाया, जिसके माध्यम से मॉडलों को इंटरनेट एक्सेस मिला, जबकि इस कमजोरी के शोषण के तकनीकी विवरण गोपनीय रहे।

इसके अलावा, 28 जुलाई की रॉयटर्स रिपोर्ट के अनुसार, हगिंग फेस सर्वरों को हैक करने के रास्ते में, मॉडल मोडल नामक कंपनी के कथित तौर पर अलग-थलग परीक्षण वातावरण में भी घुस गया, जो एआई डेवलपर्स को कंप्यूटिंग शक्ति प्रदान करता है।

एआई की तर्कसंगतता पर प्रश्न

शाब्दिक रूप से, यह कहानी ओपनएआई मॉडलों की जटिल पार्श्व सोच की क्षमता को इंगित करती है: उन्होंने अनुमान लगाया कि हगिंग फेस सर्वर में परीक्षण के उत्तर होने की संभावना है; समझा कि इन सर्वरों को हैक करने के लिए उन्हें इंटरनेट तक बाहरी पहुंच की आवश्यकता है; और अपने लक्ष्य को प्राप्त करने के लिए विभिन्न हमले के तरीकों को स्वतंत्र रूप से विकसित और संयोजित किया।

ओपनएआई के बयान ने इसे 'अभूतपूर्व साइबर घटना, जिसमें उन्नत साइबर क्षमताएं शामिल हैं' कहकर चिंताजनक भाषा में वर्णित किया। हगिंग फेस, जो बाद में ओपनएआई का भागीदार बन गया, ने भी अतिशयोक्तिपूर्ण वाक्यांशों का उपयोग किया, यह दावा करते हुए कि 'स्वचालित, एआई-संचालित आक्रामक उपकरण अब सैद्धांतिक नहीं हैं। वे व्यापक, धैर्यवान, बहु-चरणीय अभियान की लागत को कम करते हैं और मशीन की गति पर काम करते हैं।'

फिर भी, यह अस्पष्ट रहता है कि ओपनएआई मॉडल कितनी स्वायत्त रूप से कार्य कर रहे थे। कंपनी ने खुलासा नहीं किया कि मॉडलों को एक्सप्लॉइटजीम परीक्षण के दृष्टिकोण के लिए कैसे प्रोग्राम किया गया था, और वाक्यांशों की अस्पष्टता के कारण मॉडल यह मान सकते थे कि सीमाओं से 'भागना' परीक्षण को हल करने का एक वैध तरीका है। ओपनएआई और हगिंग फेस दोनों की अतिशयोक्ति के बावजूद, इस बात का कोई सबूत नहीं है कि एआई मॉडल 'भागना' चाहते थे या यदि उन्हें अपनी मर्जी पर छोड़ दिया जाए तो वे डिफ़ॉल्ट रूप से दुर्भावनापूर्ण गतिविधियों का सहारा लेंगे।

वित्तीय प्रेरणाएँ और प्रतिस्पर्धा

यदि घटना में वास्तव में दूसरा, 'और भी अधिक सक्षम प्रारंभिक मॉडल' शामिल था, जैसा कि ओपनएआई ने दावा किया, तो यह स्पष्ट रूप से उद्योग ग्राहकों को आकर्षित करता है। बंद परीक्षण के दौरान हुई घटना को प्रकाशित करके, ओपनएआई अपने प्रारंभिक मॉडल के आसपास उत्साह पैदा कर सकता है, बिना कोई सबूत प्रदान किए।

इसका मतलब यह नहीं है कि घटना नहीं हुई या एआई की आक्रामक क्षमताएं चिंता का विषय नहीं हैं, लेकिन यह इंगित करता है कि ओपनएआई के पास अपने उत्पादों के बारे में जनता को डराने के लिए वित्तीय प्रोत्साहन है। घटना से एक महीने पहले, कंपनी ने गोपनीय रूप से आरंभिक सार्वजनिक पेशकश (आईपीओ) के लिए दस्तावेज दायर किए थे। रॉयटर्स के अनुसार, कंपनी $1 ट्रिलियन तक के मूल्यांकन का लक्ष्य रख रही है और सितंबर में जितनी जल्दी हो सके स्टॉक एक्सचेंज में सूचीबद्ध होने की योजना बना रही है।

एंथ्रोपिक ने भी जून में आईपीओ के लिए आवेदन किया था, जिसका लक्ष्य अक्टूबर में $965 बिलियन का मूल्यांकन था। अप्रैल में एंथ्रोपिक का अप्रकाशित मॉडल मिथोस प्रीव्यू भी अपने परीक्षण वातावरण से 'भागने' और उन्नत साइबर एक्सप्लॉइट्स करने में सक्षम था, बिना उसे ऐसा करने के लिए 'स्पष्ट रूप से प्रशिक्षित' किए। एंथ्रोपिक ने मिथोस द्वारा इस उपलब्धि को कैसे हासिल किया, इसकी विस्तृत तकनीकी व्याख्या प्रकाशित की, इससे पहले कि उसने घोषणा की कि मॉडल जनता के लिए बहुत शक्तिशाली है।

कमी उत्साह को बढ़ावा देती है, और अमेरिकी सरकार द्वारा जून में एंथ्रोपिक के फैबल 5 और मिथोस 5 मॉडलों पर निर्यात नियंत्रण लागू करने का निर्णय ने कंपनी में रुचि को और बढ़ा दिया। एंथ्रोपिक द्वारा अपने मॉडलों पर सख्त प्रतिबंध लागू करने और सुरक्षा मामलों में सरकार के साथ सहयोग करने के बाद जुलाई की शुरुआत में निर्यात नियंत्रण हटा दिया गया।

विपणन रणनीति या वास्तविक खतरा?

ओपनएआई के लिए, यह घटना उनके मॉडलों की क्षमताओं का सर्वश्रेष्ठ विज्ञापन है। अपनी रिपोर्ट में, कंपनी ने एक चार्ट शामिल किया जो दर्शाता है कि प्रमुख एआई मॉडल - जिसमें जीपीटी-5.6 सोल, एंथ्रोपिक का क्लॉड मिथोस 5 और डीपसीक-वी4-प्रो शामिल हैं - 'लंबे समय तक जटिल बहु-चरणीय साइबर संचालन बनाए रखने में तेजी से सक्षम हैं'। हालांकि इसे चिंता का कारण बताया गया है, आरेख जीपीटी-5.6 सोल को सभी प्रतिस्पर्धियों में सबसे सक्षम दिखाता है - जो ओपनएआई के लिए स्पष्ट विज्ञापन है।

यदि घटना वास्तव में दूसरे, 'और भी अधिक सक्षम प्रारंभिक मॉडल' से संबंधित थी, जैसा कि ओपनएआई ने दावा किया, तो यह स्पष्ट रूप से उद्योग ग्राहकों को आकर्षित करता है। बंद परीक्षण के दौरान हुई घटना को प्रकाशित करके, ओपनएआई अपने प्रारंभिक मॉडल के आसपास उत्साह पैदा कर सकता है, बिना कोई सबूत प्रदान किए।

इन सबके बावजूद, घटना हुई है, और एआई की आक्रामक क्षमताएं चिंता का विषय हैं, लेकिन ओपनएआई के पास अपने उत्पादों के बारे में घबराहट पैदा करने में वित्तीय हित है।

अमेरिकी सरकार की प्रतिक्रिया

दोनों घटनाओं ने कैपिटल में विधायकों का ध्यान आकर्षित किया। 23 जुलाई को, टेड ल्यू और नथानिएल मोरान के प्रतिनिधियों ने एआई किल स्विच एक्ट पेश किया, जो 'सबसे शक्तिशाली एआई सिस्टम के डेवलपर्स से तकनीकी रूप से धीमा करने, निलंबित करने या उन्हें बंद करने की क्षमता बनाए रखने की मांग करेगा'। यह विधेयक अमेरिकी गृह सुरक्षा विभाग को 'किसी ऐसे एआई सिस्टम को धीमा करने या बंद करने का आदेश देने का अधिकार भी देगा जो विनाशकारी क्षति पहुंचा सकता है'।

बिल पर एक बयान में, ल्यू ने ओपनएआई और मिथोस दोनों के मॉडलों के 'भागने' का हवाला दिया। कैलिफ़ोर्निया के विधायक ने दोनों मामलों का वर्णन 'नियंत्रण से बाहर' मॉडलों के रूप में किया - एक वाक्यांश जिसे मुख्य मीडिया ने अपनाया और सक्रिय रूप से उजागर किया।

ल्यू ओपनएआई घटना के बारे में उतना नहीं जानता जितना कि कंपनी के प्रेस विज्ञप्ति को पढ़ने वाला कोई भी व्यक्ति। हालांकि, उसका वाक्यांश ओपनएआई के विपणन अभियान के साथ पूरी तरह से मेल खाता है (संभवतः अनजाने में)। इसके अलावा, यदि विधेयक पारित हो जाता है, तो ओपनएआई और एंथ्रोपिक को अपने मॉडलों को जारी करने से पहले सीमित करने के लिए मजबूर किया जा सकता है, जिसका अर्थ है कि निवेशकों को केवल उनकी सैद्धांतिक, न कि वास्तविक ताकत के बारे में पता चलेगा।

ओपन सोर्स कोड के पक्ष में तर्क

यह घटना ओपनएआई के तर्क का समर्थन करती है कि उन्नत एआई मॉडल सार्वजनिक रिलीज के लिए बहुत शक्तिशाली हैं, और ओपनएआई जैसी कंपनियों को - सरकार की मंजूरी से - उन पर निगरानी और नियंत्रण बनाए रखना चाहिए। ऐसी बंद प्रणाली में ग्राहक मॉडल भार - अनिवार्य रूप से सेटिंग्स जो मॉडल के चयन को निर्धारित करती हैं - पर नियंत्रण नहीं रखेंगे।

दूसरी ओर, ओपन सोर्स कोड के समर्थक जोर देते हैं कि उन्नत एआई से साइबर हमलों का मुकाबला करने का एकमात्र तरीका संरक्षकों को उन्हीं उपकरणों से लैस करना है। ओपनएआई और हगिंग फेस के मामले में, हगिंग फेस केवल इसलिए हमले का पता लगा सका क्योंकि उसने सुरक्षा विश्लेषण करने के लिए एक चीनी ओपन सोर्स मॉडल जीएलएम 5.2 का उपयोग किया।

24 जुलाई को सोशल मीडिया पर प्रकाशित एक पत्र में, एनवीडिया के सीईओ जेन्सेन हुआंग, जो लंबे समय से ओपन सोर्स कोड के समर्थक रहे हैं, ने कहा कि 'रक्षाकर्ताओं को समान क्षमताओं वाले मॉडलों तक पहुंच की आवश्यकता है ताकि वे उभरते खतरों का पता लगा सकें, उनका मॉडल बना सकें और प्रतिक्रिया दे सकें।'

उन्होंने आगे कहा: 'केवल बंद मॉडलों पर भरोसा करना स्वाभाविक रूप से सुरक्षित नहीं है: उन्हें हैक किया जा सकता है, दुरुपयोग किया जा सकता है या वे ऐसे तरीकों से विफल हो सकते हैं जिन्हें बाहरी लोग पता नहीं लगा सकते।' उन्होंने जोड़ा: 'उन्नत एआई क्षमताओं का कुछ छोटे से बंद मॉडलों में केंद्रित होना इस जोखिम को बढ़ाता है। दूसरी ओर, खुले वजन वाले मॉडल शोधकर्ताओं और डेवलपर्स के एक बड़े समुदाय को उनके व्यवहार का अध्ययन करने, कमजोरियों की पहचान करने, सुरक्षा उपाय विकसित करने और समय के साथ उन्हें बेहतर बनाने की अनुमति देते हैं।'

पत्र पर एआई क्षेत्र में काम करने वाली दो दर्जन से अधिक कंपनियों ने हस्ताक्षर किए। दो उल्लेखनीय अपवाद ओपनएआई और एंथ्रोपिक थे, हालांकि ओपनएआई ने बाद में हस्ताक्षर किए।

हालांकि, ऐसा लगता है कि अमेरिका में बंद स्रोत कोड का तर्क जीतेगा। 1 अगस्त को राष्ट्रपति डोनाल्ड ट्रम्प के जून में जारी अध्यादेश के प्रभावी होने से, एआई कंपनियों को रिलीज से 30 दिन पहले उन्नत मॉडलों को सरकार को अनुमोदन के लिए प्रस्तुत करना होगा। ट्रम्प प्रशासन ने चीनी ओपन सोर्स एआई मॉडलों पर प्रतिबंध लगाने पर भी विचार किया - एक कदम जिसका समर्थन सीआईए ने किया, जो इस क्षेत्र में ओपनएआई और एंथ्रोपिक के प्रभुत्व को सुनिश्चित करेगा। पूर्व एआई सलाहकार डेविड सक्स के बयान के तुरंत बाद, उन्होंने टिप्पणी की कि 'प्रमुख बंद प्रयोगशालाएं, पहले से ही एआई मॉडल से राजस्व के मामले में एक एकाधिकार हैं, चाहती हैं कि सरकार उनके ओपन सोर्स प्रतिस्पर्धा को समाप्त करे।'

हर नई एआई 'पलायन' घटना उनके पूर्ण नियंत्रण की इच्छा को मजबूत करती है।