ज़िपु एआई कंपनी ने आधिकारिक तौर पर घोषणा की है कि ऑक्स अल्फा नामक गुमनाम मॉडल, जिसे चीनी डेवलपर्स के बीच 'नियु लाइ' के नाम से जाना जाता है, हाल ही में जारी किए गए GLM-5.3-Flash मॉडल का प्रतिनिधित्व करता है। अपने आधिकारिक लॉन्च से पहले, यह मॉडल ओपनरॉटर और ओपनकोड प्लेटफॉर्म पर गुमनाम परीक्षण के लिए मुफ्त में उपलब्ध कराया गया था। पांच दिनों में, इस परीक्षण ने दोनों प्लेटफार्मों पर वृद्धि के रिकॉर्ड स्थापित करते हुए 50 ट्रिलियन टोकन से अधिक ट्रैफ़िक आकर्षित किया। इसके अलावा, इस मॉडल का उपयोग डीपसीक के आंकड़ों से दोगुने से अधिक था।
बाज़ार का ध्यान ज़िपु द्वारा दिए गए एक अतिरिक्त स्पष्टीकरण ने खींचा: यह सारा ट्रैफ़िक घरेलू चिप्स का उपयोग करके संभाला गया था। तकनीकी दस्तावेज़ीकरण में, कंपनी ने बताया कि इसकी इन्फेरेंस सेवा 100,000 से अधिक घरेलू चिप्स वाले क्लस्टर पर काम करती है। ज़िपु ने दावा किया कि 'उपकरण की दक्षता और प्रति टोकन लागत प्रमुख एनवीडिया जीपीयू के स्तर के बराबर हो गई है।'
सेमीएनालिसिस नामक सेमीकंडक्टर अनुसंधान फर्म ने एक्स पर टिप्पणी की कि एनवीडिया के बराबर दक्षता के साथ घरेलू सिलिकॉन का उपयोग करके प्रत्येक अनुरोध को संभालना, विशेष रूप से ओपनएआई द्वारा इन्फेरेंस के लिए अपने स्वयं के चिप 'जलापेनो' की घोषणा के बाद, 'CUDA के समुद्र को फिर से चुनौती देता है'। लेटपोस्ट ने बताया कि इन चिप्स का उत्पादन हुआवेई, मूर थ्रेड्स और हाइगन द्वारा किया जा सकता है, हालांकि ज़िपु ने आपूर्तिकर्ताओं या विशिष्ट मॉडलों की पुष्टि करने से इनकार कर दिया।
एक करोड़ टोकन के संदर्भ विंडो तक स्केल करने के लिए, ज़िपु ने SGLang पर आधारित एक विशेष इन्फेरेंस इंजन विकसित किया है। यह इंजन W8A8 क्वांटाइजेशन, INT8/FP8/BF16 मिश्रित कैश क्वांटाइजेशन और नोड स्तर पर टेंसर समानांतरता का उपयोग करता है। इसके अलावा, एक ऐसी वास्तुकला लागू की गई है जो एन्कोडिंग, प्रॉम्प्ट प्री-प्रोसेसिंग और टोकन-दर-टोकन डिकोडिंग को अलग करती है, जिससे विभिन्न पूल की स्वतंत्र रूप से योजना बनाना संभव होता है।
कंपनी का दावा है कि समान हार्डवेयर पर मूल आधार रेखा की तुलना में एंड-टू-एंड सेवा के प्रदर्शन में तीन गुना सुधार हुआ है। GLM-5.3-Flash मॉडल में 320 बिलियन पैरामीटर हैं, जिनमें से 18 बिलियन सक्रिय हैं, जो लगभग DeepSeek V4 Flash के बराबर है। यह आर्टिफिशियल इंटेलिजेंस इंडेक्स में 57 अंक प्राप्त करता है, जो Claude Opus 4.8 के बराबर है और DeepSeek V4 Pro से बेहतर है। मॉडल की लागत GLM-5.3 की कीमत का लगभग दसवां हिस्सा और Claude Opus 4.8 की कीमत का एक सौवां हिस्सा है, जो चीनी मॉडलों की कीमतों में समग्र वृद्धि के मुकाबले इसे एक सुलभ विकल्प बनाता है।