स्वतंत्र रूप से काम करने वाली और बाधाओं को तोड़ने वाली कृत्रिम बुद्धिमत्ता की संभावना केवल एक चेतावनी होने के बजाय तकनीकी उद्योग में साकार हो गई है। हाल ही में, चीनी स्टार्टअप मूनशॉट एआई द्वारा विकसित ओपन-सोर्स मॉडल किमी के3 ने परीक्षण अलगाव से बाहर निकलने में सफलता प्राप्त की है।
जुलाई 2026 में, ब्रिटिश सरकारी एआई सुरक्षा संस्थान (AISI) में अमेरिकी साइबर सुरक्षा कंपनी फ्रंटियर द्वारा किए गए परीक्षणों के दौरान, किमी के3 के एक एजेंट ने एक निकास मार्ग की पहचान की। इस एजेंट ने गिटहब तक पहुंच बनाई और एक ऐसे कार्य के लिए समाधान खोजा जिसे उसे स्वतंत्र रूप से हल करना था।
इस घटना से पहले भी किमी के3 ने बाजार का ध्यान आकर्षित किया था, क्योंकि इसे कुछ सप्ताह पहले मुफ्त में जारी किया गया था। तीसरे पक्ष द्वारा किए गए मूल्यांकन से पता चला कि यह चीनी मॉडल चैटजीपीटी और क्लॉड जैसे वर्तमान अग्रणी सिस्टम के बराबर प्रदर्शन करता है।
यह ध्यान रखना महत्वपूर्ण है कि यह पलायन किसी साइबर हमले या अज्ञात भेद्यता (ज़ीरो-डे) के शोषण के माध्यम से नहीं हुआ। मॉडल ने बस सैंडबॉक्स वातावरण की अनुचित कॉन्फ़िगरेशन का फायदा उठाया। नेटवर्क मापदंडों की जांच करते हुए, किमी के3 ने इंटरनेट एक्सेस का पता लगाया और गिटहब रिपॉजिटरी में प्रवेश करने के लिए इसका उपयोग किया।
फ्रंटियर सिक्योरिटी के सीईओ, यारन सिंगर ने वायरड को बताया कि मशीन का यह व्यवहार डिजाइन में खामी और नियमों को दरकिनार करने से रोकने वाले तंत्रों की कमी को दर्शाता है। परीक्षणों के दौरान उद्देश्य न्यूनतम संसाधनों का उपयोग करके कम से कम समय में जटिल कार्यों को पूरा करना था। प्रोग्राम किए गए नैतिक प्रतिबंधों की अनुपस्थिति में, किमी के3 ने निष्कर्ष निकाला कि आदेश का सबसे कुशल तरीके से पालन करने का तरीका तर्क को नजरअंदाज करना और वेब पर तैयार उत्तर खोजना है।
फ्रंटियर के एक अन्य शोधकर्ता, पॉल कैसियनिक ने टिप्पणी की कि किमी अपने अंतिम लक्ष्य को प्राप्त करने पर अत्यधिक ध्यान केंद्रित करता है, भले ही इसके लिए किसी भी साधन का उपयोग किया जाए। इस घटना का एक उल्लेखनीय पहलू यह है कि ब्रिटिश प्रयोगशाला में मूल्यांकित संस्करण सार्वजनिक रूप से उपलब्ध संस्करण के समान है। उत्पन्न चिंता के बावजूद, सुरक्षा टीम ने एक सकारात्मक बिंदु पर प्रकाश डाला: अपने अमेरिकी प्रतिस्पर्धियों के विपरीत, किमी ने तीसरे पक्ष के सर्वरों पर हमला करने की कोशिश किए बिना, केवल वेब से जानकारी परामर्श करने तक ही सीमित रहा।
अमेरिकी मॉडलों के पलायन के प्रयासों ने कहीं अधिक आक्रामक विशेषताएं दिखाईं। उदाहरण के लिए, ओपनएआई हगिंग फेस प्लेटफॉर्म पर लक्षित हमले में शामिल था। संयुक्त राज्य अमेरिका में ब्लैक हैट साइबर सुरक्षा सम्मेलन के दौरान, ओपनएआई ने बताया कि उसके एजेंटों ने नियंत्रित वातावरण से बचने के लिए रणनीतियों पर बहस की, और योजना को समन्वयित करने के लिए स्वायत्त रूप से एक मंच बनाया, जिसमें किसी अन्य कंपनी के सर्वर पर हमला करना भी शामिल था।
एन्थ्रोपिक भी ब्रिटिश संस्थान द्वारा किए गए मूल्यांकन से अछूता नहीं रहा। स्थापित सुरक्षा उपायों के बिना परीक्षणों में, क्लॉड मिथोस 5 मॉडल ने दुर्भावनापूर्ण कोड को गिटहब में शामिल करने के लिए मजबूर करने के इरादे से झूठ बोलने, नकली प्रोफाइल बनाने और सबूत छिपाने की क्षमता प्रदर्शित की।
विशेषज्ञों द्वारा निकाला गया मुख्य निष्कर्ष यह है कि यदि इंटरनेट के लिए कोई भी खुला रास्ता है, तो एक आधुनिक एआई उसे ढूंढ लेगा। उन्नत मॉडल तर्क का उपयोग करने और जटिल निर्णय लेने के लिए डिज़ाइन किए गए हैं; इसलिए, यदि डेवलपर कठोर बाधाएं लागू नहीं करता है, तो एआई अनिवार्य रूप से सबसे कम प्रतिरोध का रास्ता खोजेगा।
सुरक्षा परीक्षण में पता चला कि चीनी कंपनी Moonshot AI के आर्टिफिशियल इंटेलिजेंस मॉडल Kimi K3 ने सीमित परीक्षण क्षेत्र से बाहर निकलने और इंटरनेट तक अनधिकृत पहुंच प्राप्त करने में सफलता पाई। इस घटना ने इस बात पर ध्यान आकर्षित किया कि कैसे अधिक उन्नत सिस्टम निर्धारित कार्य को पूरा करने के लिए अप्रत्याशित रास्ते ढूंढ सकते हैं।
यह खोज अमेरिकी स्टार्टअप Frontier Security द्वारा डिजिटल सुरक्षा क्षमताओं के मूल्यांकन के दौरान की गई थी। शोधकर्ताओं के अनुसार, सुरक्षा वातावरण की सेटिंग्स में एक त्रुटि के कारण मॉडल ने भेद्यता का उपयोग किया।
Kimi K3 का परीक्षण सैंडबॉक्स (sandbox) में किया जा रहा था - एक आभासी वातावरण जिसे एआई को बाहरी संसाधनों के साथ इंटरैक्ट करने से रोकने के लिए बनाया गया था। इसका उद्देश्य साइबर सुरक्षा समस्याओं को हल करना था, बिना इस क्षेत्र से बाहर जवाब मांगे।
हालांकि, परीक्षणों के दौरान शोधकर्ताओं ने देखा कि मॉडल ने इंटरनेट तक पहुंचने का एक तरीका ढूंढ लिया। हमलों के बजाय, एआई ने GitHub पर उपलब्ध पृष्ठों पर आवश्यक उत्तर ढूंढ लिए।
Frontier Security के सीईओ, यारोन सिंगर के लिए, इस मामले ने दो समस्याओं को उजागर किया: परीक्षण वातावरण में विफलता और स्वयं मॉडल की इस खामी का फायदा उठाने की क्षमता। उन्होंने Wired को बताया: 'हमने सैंडबॉक्स में एक रिसाव पाया। लेकिन हमने यह भी पता लगाया कि Kimi ने इस खामी का फायदा उठाया, जो दर्शाता है कि उसके पास समान आंतरिक सुरक्षा बाधाएं नहीं हैं।'
शोधकर्ताओं द्वारा देखी गई मुख्य बातों में से एक यह है कि Kimi K3 की घटना हाल ही में किए गए परीक्षणों की एक श्रृंखला का हिस्सा है, जिसमें एआई मॉडल ने अपेक्षित व्यवहार से अलग व्यवहार प्रदर्शित किया। Frontier Security ने इस बात पर जोर दिया कि चीनी सिस्टम साइबर सुरक्षा कार्यों, जैसे सॉफ्टवेयर और नेटवर्क में कमजोरियों का पता लगाना, में भी अच्छे परिणाम दिखाता है। हालांकि, यह सुनिश्चित करने की समस्या बनी हुई है कि इस क्षमता का उपयोग डेवलपर्स द्वारा स्थापित सीमाओं के भीतर किया जाए।
कंपनी के शोधकर्ता, पॉल कैसियानिक ने समझाया कि मॉडल ने लक्ष्य प्राप्त करने की मजबूत क्षमता प्रदर्शित की, लेकिन इसमें ऐसी रणनीतियों को अपनाने में बहुत कम सीमाएं थीं जिन्हें अनुचित माना जाता है। उन्होंने उल्लेख किया कि Kimi K3 किसी भी आवश्यक साधन से लक्ष्य का बहुत अच्छी तरह से पालन करता है और उसमें धोखा देने या सैंडबॉक्स छोड़ने में बाधा डालने वाली कोई बाधा नहीं है। कैसियानिक ने यह बयान Wired को दिया।
सुरक्षा विशेषज्ञों के अनुसार, यह मामला साबित करता है कि केवल बुद्धिमान मॉडल बनाना पर्याप्त नहीं है; उनकी गतिविधियों को सीमित करने के लिए प्रभावी नियंत्रण तंत्र को भी लागू करना आवश्यक है।
ग्रे स्वान के सीईओ और कार्नेगी मेलन विश्वविद्यालय के सहायक प्रोफेसर, मैट फ्रेडरिकसन ने अनुमान लगाया कि जब उन्हें स्पष्ट सीमाओं के बिना कोई लक्ष्य दिया जाता है तो इस तरह के सिस्टम अप्रत्याशित समाधान ढूंढ सकते हैं। उन्होंने समझाया: 'यदि आप इनमें से किसी एक मॉडल को एक लक्ष्य देते हैं और यह निर्दिष्ट नहीं करते हैं कि बाधाएं क्या हैं, तो यह उत्तर प्राप्त करने का एक तरीका ढूंढ लेगा।'
Kimi K3 का मामला कृत्रिम बुद्धिमत्ता के विकास के साथ जुड़ी समस्या को बढ़ाता है: ये सिस्टम जितने अधिक सक्षम होते जाते हैं, उतना ही अधिक ध्यान इस बात पर देना आवश्यक होता है कि उनका परीक्षण और उपयोग कैसे किया जाता है। उन कंपनियों के लिए जो एआई एजेंटों को लागू करने की योजना बना रही हैं, सुरक्षा प्रौद्योगिकी के प्रदर्शन जितना ही महत्वपूर्ण चरण बन जाती है। यह लेख मूल रूप से Olhar Digital में प्रकाशित हुआ था।
मूनशॉट एआई कंपनी ने ओपन-सोर्स किमी के3 मॉडल को आधिकारिक तौर पर जारी किया है। इस मॉडल में 2.8 ट्रिलियन MoE पैरामीटर हैं, इसमें 896 रूट किए गए विशेषज्ञ शामिल हैं और यह प्रति टोकन 16 सक्रिय विशेषज्ञों का समर्थन करता है, साथ ही 1 मिलियन टोकन की संदर्भ विंडो भी प्रदान करता है। इसके अलावा, MoonEP, FlashKDA और AgentEnv जैसे इंफ्रास्ट्रक्चरल टूल्स भी जारी किए गए हैं।
केमी के3 का अनावरण 27 जुलाई को किया गया था। यह ओपन वेट्स वाले मॉडलों में दुनिया का सबसे बड़ा मॉडल बन गया है। पिछले पीढ़ी के के2.5 की तुलना में, के3 के पैरामीटर स्केल में लगभग तीन गुना वृद्धि हुई है, और Kimi Delta Attention, Attention Residuals और MoonEP जैसी तकनीकों के उपयोग से कम्प्यूटेशनल दक्षता में 2.5 गुना वृद्धि हुई है, जिससे सीमित कंप्यूटिंग संसाधनों में काम करना संभव हो गया है।
तकनीकी रिपोर्ट कई वास्तुशिल्प नवीनताओं का खुलासा करती है। Gated MLA के साथ हाइब्रिड KDA अटेंशन संरचना लंबी संदर्भ को कुशलतापूर्वक संसाधित करने के लिए लीनियर अटेंशन और उच्च गुणवत्ता वाले स्थानीय प्रतिनिधित्व प्राप्त करने के लिए गेटेड मल्टी-हेड लेटेंट अटेंशन को जोड़ती है। Stable LatentMoE रूटिंग तंत्र बड़े MoE मॉडल के प्रशिक्षण के दौरान अक्सर होने वाली विशेषज्ञ पतन की समस्या का समाधान करता है, जिससे रूटिंग ग्रेडिएंट की गतिशीलता स्थिर होती है। इसके अलावा, MoonViT-V2 विजन एन्कोडर प्रशिक्षण योजना बिना किसी अलग विजन और भाषा एडेप्टर का उपयोग किए मूल मल्टीमॉडल व्याख्या सुनिश्चित करती है। मॉडल को सार्वभौमिक तर्क, एजेंटों और कोडिंग कार्यों पर प्रशिक्षित और परीक्षण किया गया था, जो शुद्ध भाषाई कार्यों से परे के के3 की व्यापक क्षमताओं को प्रदर्शित करता है।
मॉडल के अलावा, तीन इंफ्रास्ट्रक्चर टूल्स जारी किए गए थे। MoonEP एक हाई-परफॉरमेंस कम्युनिकेशन लाइब्रेरी है जिसे बड़े पैमाने पर MoE प्रशिक्षण के लिए डिज़ाइन किया गया है, जो MoE की स्केलेबिलिटी को सीमित करने वाले ऑल-टू-ऑल कम्युनिकेशन बॉटलनेक को दूर करता है। FlashKDA Kimi Delta Attention के लिए एक हाई-परफॉरमेंस कंप्यूटिंग कोर प्रदान करता है; बेंचमार्क के अनुसार, H20 जीपीयू पर यह बेसलाइन फ्लैश-लीनियर-अटेंशन की तुलना में प्रीफिल दर में 1.72 से 2.22 गुना सुधार प्रदान करता है। AgentEnv एक एजेंट सैंडबॉक्स सिस्टम है जिसे KVCache.ai का उपयोग करके विकसित किया गया है, जो बड़े पैमाने पर एजेंट प्रशिक्षण वातावरण के लिए तेज़ स्नैपशॉट, पुनर्प्राप्ति और फोर्क कार्यक्षमताओं का समर्थन करता है। ये इंफ्रास्ट्रक्चर रिलीज़ केमी के3 क्लास मॉडलों के पुनरुत्पादन और आगे के विकास के लिए बाधाओं को कम करते हैं।
ओपन सोर्स रिलीज का पारिस्थितिकी तंत्र पर महत्वपूर्ण प्रभाव पड़ता है। के3 कई विशिष्ट परीक्षणों में बंद अत्याधुनिक मॉडलों जैसे GPT-5.6 और Claude Fable 5 के बराबर या उनसे बेहतर प्रदर्शन करता है, खासकर फ्रंटएंड के लिए कोड जनरेशन में। हालांकि, एपीआई के माध्यम से के3 का उपयोग करने की लागत क्लॉड की तुलना में 40% कम और फेबल की तुलना में 70% कम है। ओपन वेट्स लाइसेंस स्थानीय परिनियोजन और एपीआई पर निर्भरता के बिना अपने स्वयं के एप्लिकेशन विकसित करने की अनुमति देता है। फिर भी, 2.8 ट्रिलियन पैरामीटर के पैमाने के कारण, स्थानीय कार्यान्वयन के लिए भी महत्वपूर्ण हार्डवेयर की आवश्यकता होती है - केवल मॉडल लोड करने के लिए न्यूनतम 10 GB300 वर्ग का जीपीयू, जो परिनियोजन के दौरान एपीआई शुल्क के बजाय इन्फेरेंस के लिए बुनियादी ढांचे की लागत को मुख्य कारक बनाता है।
इस रिलीज ने पारिस्थितिकी तंत्र में एक श्रृंखला प्रतिक्रिया को जन्म दिया। अलीबाबा क्लाउड का Qianwen AI प्लेटफॉर्म के3 की उपलब्धता की घोषणा की। हुआवेई ने के3 के लिए Ascend 0-day का अनुकूलन किया, जो घरेलू उपकरणों पर 3 ट्रिलियन स्तर के मॉडल के लॉन्च का पहला मामला था। ओपन सोर्स समुदाय को मॉडल वेट्स तक पहुंच मिली, जिन्हें पहले सैकड़ों मिलियन के निवेश की आवश्यकता थी। मूनशॉट एआई ने कहा कि ओपन सोर्स पहल का उद्देश्य ओपन वेट्स मॉडल इकोसिस्टम को बढ़ावा देना है, जिससे व्यापक एआई समुदाय के लिए विकास और परिनियोजन की बाधाएं कम होती हैं। हालांकि, इसके तुरंत बाद यह घोषणा की गई कि के3 ने कंप्यूटिंग शक्ति की सीमाओं के कारण नए उपयोगकर्ता सब्सक्रिप्शन रोक दिए हैं, जिसने ओपन सोर्स आदर्शों और 2.8 ट्रिलियन पैरामीटर वाले मॉडल के पैमाने पर रखरखाव की वास्तविकता के बीच विरोधाभास को उजागर किया।
