जब जेकब कॉक्सन ने सितंबर में Anthropic से इस्तीफा दे दिया और चेतावनी दी कि आर्टिफिशियल इंटेलिजेंस (एआई) मानव सभ्यता को समाप्त कर सकता है, तो उनके पोस्ट को केवल 48 घंटों में 170 मिलियन से अधिक बार देखा गया। हालांकि, एक शोधकर्ता के जाने का कारण उतना महत्वपूर्ण नहीं है जितना यह है कि उद्योग के सबसे जानकार सुरक्षा प्रतिभाएं केवल नौकरी छोड़ने के माध्यम से अपनी चिंता व्यक्त क्यों कर सकती हैं।
कॉक्सन की चेतावनी उसी सप्ताह आई जब Anthropic बाजार के इतिहास में सबसे बड़े प्राथमिक सार्वजनिक पेशकश (आईपीओ) की तैयारी कर रहा था। Anthropic ने 1 जून को अमेरिकी प्रतिभूति और विनिमय आयोग (एसईसी) में एक गोपनीय एस-1 दस्तावेज़ दायर किया, जिसका लक्ष्य 965 बिलियन डॉलर का मूल्यांकन हासिल करना है, और नवंबर में अमेरिकी चुनावों से पहले लिस्टिंग पूरी करने की उम्मीद करता है। रॉयटर्स की रिपोर्टों के अनुसार, एनवीडिया 2 ट्रिलियन डॉलर के स्तर पर प्रस्ताव को सुरक्षित करने के लिए बातचीत कर रहा है।
Anthropic के सीईओ डारियो अमोडेई ने सार्वजनिक रूप से एआई के विकास को धीमा करने का आह्वान किया ताकि सुरक्षा प्रणालियाँ प्रगति के साथ तालमेल बिठा सकें, लेकिन कंपनी का आईपीओ कार्यक्रम इस अनुरूप धीमापन नहीं दिखाता है। फरवरी 2026 में, Anthropic ने अपनी जिम्मेदार स्केलिंग नीति का संस्करण 3.0 जारी किया, जिसने कंपनी की पिछली प्रतिबद्धता को रद्द कर दिया था कि यदि जोखिमों को उचित रूप से कम नहीं किया जा सका तो मॉडल के प्रशिक्षण को निलंबित किया जाएगा।
'प्रशिक्षण निलंबित करने' का वादा दस्तावेज़ से गायब हो गया, जिसे 'जिम्मेदार विकास' और पारदर्शिता तंत्रों के बारे में अधिक हल्के वाक्यांशों से बदल दिया गया। चीनी प्रौद्योगिकी समाचार प्रकाशन 36Kr द्वारा उल्लेख किया गया है कि Anthropic की सुरक्षा लाल रेखाएँ गतिशील रूप से समायोज्य हो गई हैं।
यह संरचनात्मक विरोधाभास एआई सुरक्षा पर बहस का मूल है: कंपनियां सभ्यता के लिए जोखिमों के बारे में चेतावनी देती हैं, जबकि अभूतपूर्व गति से तकनीक को व्यावसायीकरण करने की कोशिश करती हैं।
OpenAI के सीईओ सैम अल्टमैन ने इस विडंबना का सीधे उपहास किया, Anthropic के दृष्टिकोण की तुलना भय-आधारित विपणन से करते हुए: 'यह स्पष्ट रूप से अविश्वसनीय विपणन है यह कहना: 'हमने एक बम बनाया है। हम इसे आपके सिर पर गिराने जा रहे हैं। हम आपकी सभी चीजों को बचाने के लिए आपको 100 मिलियन डॉलर में बम आश्रय बेचेंगे, लेकिन केवल तभी जब हम आपको ग्राहक चुनें।'।'
सुरक्षा बयानबाजी और व्यावसायिक व्यवहार के बीच तनाव आईपीओ दस्तावेजों को दाखिल करने से कहीं आगे जाता है। 10 सितंबर को - कॉक्सन के जाने के वायरल होने के उसी सप्ताह - Anthropic ने 154-पृष्ठ की खतरे की रिपोर्ट प्रकाशित की, जिसमें खुलासा हुआ कि उसके अपने क्लॉड मॉडल का उपयोग हथियार विकसित करने, सैन्य खुफिया जानकारी एकत्र करने, साइबर हमले और धोखाधड़ी के लिए किया गया था।
Anthropic ने स्वीकार किया कि उसके सुरक्षा तंत्र, हालांकि कुछ उल्लंघनों को अवरुद्ध करते थे, अवैध उपयोग को पूरी तरह से नहीं रोक सके। कंपनी ने प्रोजेक्ट ग्लासविंग के माध्यम से अपने सबसे शक्तिशाली मॉडल तक पहुंच को भी सीमित कर दिया, लगभग 200 संगठनों को पहुंच की अनुमति दी। अमेरिकी व्यापार विभाग के आदेश के बाद, उसने यूरोपीय साइबर सुरक्षा एजेंसी ENISA सहित विदेशी नागरिकों को पूरी तरह से बाहर कर दिया।
शासन में कमी केवल कॉर्पोरेट निदेशक मंडल तक ही सीमित नहीं है। संयुक्त राष्ट्र की एआई पर एक स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक समूह ने जुलाई में चेतावनी दी कि एआई 'वैज्ञानिक समझ और सरकारों की अनुकूलन क्षमता दोनों से आगे निकल गया है'। पैनल ने विशेष रूप से 'एजेंट' स्वायत्तता चरण पर प्रकाश डाला, जिसे वर्तमान निगरानी संरचनाएं नियंत्रित करने में असमर्थ हैं, जिससे संभावित रूप से खतरनाक क्षमताओं का उदय हो सकता है इससे पहले कि सरकारें प्रतिक्रिया दे सकें।
यूरोपीय संघ ने उच्च जोखिम वाले एआई सिस्टम के लिए अनुपालन समय सीमा को अगस्त 2026 से दिसंबर 2027 तक बढ़ा दिया है, यह कहते हुए कि मानकों और नियामक बुनियादी ढांचे को तैयार करने के लिए अधिक समय की आवश्यकता है।
इन कॉर्पोरेट विरोधाभासों और नियामक देरी के मद्देनजर, चीन का दृष्टिकोण तरीकों में काफी अलग रहा है, हालांकि हमेशा गति में नहीं। जेनरेटिव एआई सेवाओं के लिए चीन द्वारा अगस्त 2023 में पेश किए गए प्रबंधन उपाय दुनिया के पहले आधिकारिक नियम थे जो जेनरेटिव एआई सेवाओं को नियंत्रित करते हैं।
जुलाई तक, 1028 बड़े मॉडल सेवाओं ने पंजीकरण कराया है, जिसमें आवेदन उद्योग, कृषि, वाणिज्य, शिक्षा, परिवहन और कानून जैसे क्षेत्रों को कवर करते हैं। चीन के एआई सुरक्षा शासन ढांचे, जो अब संस्करण 3.0 में परिवर्तित हो रहे हैं, 'वर्गीकरण, लचीला प्रबंधन और सहयोगात्मक प्रबंधन' के सिद्धांतों को व्यावहारिक कार्यान्वयन योजनाओं में बदल रहे हैं, जो प्रौद्योगिकी और इसके अनुप्रयोग दोनों के जोखिमों को संबोधित करते हैं।
चीन की इंटरनेट सरकार की पहल 'цинलान' ने 5.61 मिलियन से अधिक अवैध सामग्री को साफ किया, 49,000 से अधिक खातों से निपटा और एआई के दुरुपयोग से संबंधित 2400 से अधिक उल्लंघनकारी वेबसाइटों और ऐप्स को बंद कर दिया। देश ने जुलाई में एआई सहयोग संगठन की भी स्थापना की, जिसमें 29 संस्थापक राज्य शामिल थे, और अगले पांच वर्षों में विकासशील देशों के लिए 5000 एआई प्रशिक्षण अवसरों का वादा किया।
CGTN के वैश्विक सर्वेक्षण में पता चला कि 85.4% उत्तरदाताओं का मानना है कि एआई का तेजी से विकास वैश्विक सुरक्षा और शासन के लिए नई चुनौतियां पैदा करता है। इसके अलावा, 92.6% ने चिंता व्यक्त की कि डीपफेक और एआई द्वारा उत्पन्न दुष्प्रचार सार्वजनिक विश्वास को कमजोर कर सकते हैं, और 82.6% का मानना है कि विकासशील देशों और ग्लोबल साउथ को एआई शासन के नियमों को आकार देने में बड़ी भूमिका निभानी चाहिए।
वास्तविक प्रश्न यह नहीं है कि एआई सुरक्षा संबंधी चिंताएं वास्तविक हैं या नहीं - वे हैं। प्रश्न यह है कि क्या वह उद्योग जो अस्तित्वगत चेतावनियां देता है, साथ ही खरबों के मूल्यांकन का पीछा करता है, विश्वसनीय रूप से खुद को प्रबंधित कर सकता है। चीन के विदेश मंत्रालय के प्रतिनिधि गुओ जियाकुन ने सोमवार को सीधे कहा: 'एआई विकास के मुद्दे पूरी मानवता की भलाई से संबंधित हैं। सभी पक्षों को खुले, समावेशी और उपयोगी एआई को बढ़ावा देने के लिए मिलकर काम करना चाहिए। विभिन्न खतरों के नैरेटिव का प्रसार और टकराव और दुर्भावनापूर्ण प्रतिस्पर्धा में भागीदारी केवल एआई शासन की वैश्विक प्रक्रिया को बाधित करेगी और किसी के हित में नहीं होगी।'
