मूअर थ्रेड्स के MTT S5000 ग्राफिक्स प्रोसेसर पर निर्मित घरेलू कंप्यूटिंग क्लस्टर का वाणिज्यिक संचालन उसी में शुरू हुआ। 2 नवंबर की झिडक्स रिपोर्ट के अनुसार, इस केंद्र ने जून में अपना पहला चरण शुरू किया, जुलाई में परीक्षण मोड में प्रवेश किया और अक्टूबर में वाणिज्यिक सेवा शुरू की।
क्लस्टर के वर्तमान चरण में 264 सर्वर शामिल हैं, जिनमें 2112 S5000 कार्ड लगे हैं। झिडक्स द्वारा प्रदान किए गए डेटा से पता चलता है कि क्लस्टर का उपयोग 92.9% तक पहुंच गया है। परीक्षण अवधि के दौरान 55 ग्राहकों को आकर्षित किया गया और 33 मॉडल लागू किए गए। 62% से अधिक वर्कलोड मॉडल प्रशिक्षण पर पड़ता है, जबकि मिश्रित प्रशिक्षण और अनुमान 14.7% और शुद्ध अनुमान 23.1% बनाते हैं।
क्लस्टर चार मॉड्यूल से संरचित है, जिनमें से प्रत्येक में लगभग 500 कार्ड हैं, और इसे तैयार रूप में प्रदान किया गया था। लॉन्च के तीन महीनों के भीतर इसने पूर्ण भार प्राप्त कर लिया। सिस्टम Qwen, GLM, DeepSeek, Kimi और MiniMax सहित 30 से अधिक मॉडल परिवारों का समर्थन करता है।
S5000 पूल और DeepSeek V4 Flash मॉडल का उपयोग करके अनुमान परीक्षण के दौरान, 7 हजार इनपुट और 2 हजार आउटपुट टोकन पर, एक मशीन की थ्रूपुट दर 994.97 टोकन प्रति सेकंड और प्रभावी आउटपुट 1241 टोकन प्रति सेकंड दर्ज की गई। सिस्टम ने लक्षित सेवा स्तर पर 48 समवर्ती अनुरोधों को संभाला, जिसे रिपोर्ट में समान परीक्षण के लिए H800 कॉन्फ़िगरेशन के 92% स्तर पर निर्धारित किया गया है। यह ध्यान रखना महत्वपूर्ण है कि ये आंकड़े क्लस्टर ऑपरेटरों द्वारा प्रस्तुत किए गए थे और स्वतंत्र रूप से सत्यापित नहीं किए गए थे।
क्लस्टर मिश्रित परिनियोजन का विकल्प भी प्रदान करता है, जो प्रीलोडिंग और डिकोडिंग के विखंडन के माध्यम से S5000 कार्डों को अन्य एक्सेलेरेटर के साथ जोड़ता है। रिपोर्ट में उल्लिखित एक विन्यास में, दो H20 कार्डों के साथ तीन S5000 कार्डों ने नौ H20 कार्डों के तुलनीय थ्रूपुट प्रदान किया, जो आधार स्तर से लगभग 1.87 गुना अधिक है, साथ ही पहले टोकन के समय को लगभग आधा कर दिया।
ऑटोनॉमस व्हीकल निर्माता नियोलिक्स इस साइट पर अपने स्वायत्त ड्राइविंग मॉडल के लिए प्रशिक्षण करने की योजना बना रहा है, जिसमें मांग 10,000 कार्ड के स्तर के करीब है, जो क्लस्टर में वर्तमान कार्डों की संख्या से लगभग पांच गुना अधिक है। पहले, मूअर थ्रेड्स ने दावा किया था कि उसका 10,000 कार्ड वाला S5000 आधारित क्लस्टर 90% कुशल प्रशिक्षण समय और 95% रैखिक स्केलिंग दक्षता के साथ 10 EFLOPS कम्प्यूटेशनल शक्ति प्रदान करता है। वुक्सी में विस्तार चरणबद्ध तरीके से किया जाएगा, और रिपोर्ट में उल्लेख है कि मूअर थ्रेड्स JD क्लाउड के साथ 100,000 कार्ड के क्लस्टर के निर्माण पर भी सहयोग कर रही है।
उसी में स्थित यह साइट चीन में क्षेत्रीय कंप्यूटिंग केंद्रों की बढ़ती संख्या का हिस्सा है, जो घरेलू एक्सेलेरेटर पर निर्मित हैं, क्योंकि ऑपरेटर प्रदर्शन सेटअप से हटकर बड़े पैमाने पर मॉडल डेवलपर और रोबोटिक्स कंपनियों को सेवा देने वाले क्लस्टर की ओर बढ़ रहे हैं।
