हुआवेई कनेक्ट 2026 कार्यक्रम के दौरान, मुख्य कार्यकारी अधिकारी डेविड वांग ने हाइपरस्केल सिस्टम में इन्फेरेंस के लिए उपयोग किए जाने वाले सुपरपॉड क्लस्टरों के लिए आर्टिफिशियल इंटेलिजेंस स्टोरेज सिस्टम ओशनस्टोर एम900 प्रस्तुत किया। यह उत्पाद 'मेमोरी वॉल' की समस्या को हल करने के उद्देश्य से है, जो तब उत्पन्न होती है जब संदर्भ विंडो दस लाख टोकन तक पहुंच जाती है, और एजेंटों के कई पुनरावृत्ति वाले वर्कलोड HBM और DRAM की क्षमताओं से KV कैश की मात्रा को बढ़ा देते हैं।
हुआवेई M900 को पीटाबाइट क्लास की साझा मेमोरी स्पेस के रूप में स्थापित करता है, जो एआई इंफ्रास्ट्रक्चर को कंप्यूटिंग पर केंद्रित डिजाइन से कंप्यूटिंग संसाधनों, नेटवर्क और स्टोरेज के सहयोगात्मक डिजाइन की ओर बढ़ने की अनुमति देता है। लिंगक्वे ओशनस्टोर M900 प्लेटफॉर्म पर, KV कैश को एकत्रित और वितरित किया जाता है, जिससे सुपरपॉड की मेमोरी को डिवाइस की रैम से सॉलिड स्टेट ड्राइव (एसएसडी) तक बढ़ाया जा सकता है।
कंपनी का दावा है कि एक क्लस्टर 64 पेटाबाइट की क्षमता तक पहुंच सकता है, जिससे एक एनपीयू पर उपलब्ध KV कैश को गीगाबाइट्स से टेराबाइट्स में बदल दिया जाता है और लंबे संदर्भ के पुन: उपयोग के लिए कैश हिट दर में सुधार होता है। इस दृष्टिकोण में स्टोरेज को पारंपरिक बैकअप या ऑब्जेक्ट स्तर के बजाय इन्फेरेंस मेमोरी के पूरक के रूप में देखा जाता है।
प्रदर्शन के बारे में मुख्य दावे 'थ्री-इन-वन' आर्किटेक्चर से संबंधित हैं, जिसमें सीपीयू, नेटवर्क और डिस्क नियंत्रक शामिल हैं, जिसमें KV सिमेंटिक्स के लिए नेटिव समर्थन है। हुआवेई का दावा है कि एनपीयू प्रोटोकॉल अनुवाद या सीपीयू के माध्यम से अग्रेषण की आवश्यकता के बिना एसएसडी तक एक चरण में पहुंच सकते हैं, जिससे एक्सेस विलंबता मिलीसेकंड स्तर से घटकर लगभग 60 माइक्रोसेकंड हो जाती है - जो लगभग 90% की कमी है। इसके अलावा, सिस्टम क्लस्टर के लिए कुल थ्रूपुट लगभग 40 टीबी/स प्रदान करता है, जो पिछले उद्योग समाधानों की तुलना में लगभग 1.5 गुना अधिक है। एआई एन्कोडिंग के विशिष्ट परिदृश्य में, हुआवेई का दावा है कि टोकन थ्रूपुट दोगुना हो सकता है, और पहले टोकन तक पहुंचने का समय आधा हो जाएगा।
लागत नियंत्रण KV-जागरूक अनुकूली शेड्यूलिंग के माध्यम से प्राप्त किया जाता है, जो विभिन्न मीडिया पर KV कैश डेटा के मूल्य और जीवनचक्र का अनुमान लगाता है। हुआवेई 24 DWPD तक पहुंचने और एसएसडी मीडिया के जीवनकाल को लगभग 16 गुना बढ़ाने की क्षमता का दावा करता है, जिससे तीन वर्षों तक कम डिस्क प्रतिस्थापन के साथ स्थिर संचालन बनाए रखा जा सके। हालांकि, स्वतंत्र ऑपरेटरों को अपने सुपरपॉड पर विलंबता, थ्रूपुट और स्थायित्व के मेट्रिक्स को स्वयं सत्यापित करना होगा, लेकिन M900 स्पष्ट रूप से एजेंटों और लंबे संदर्भ के लिए मेमोरी इंफ्रास्ट्रक्चर के रूप में स्थापित किया गया है, जो असेंड चिप्स या NPO इंटरकनेक्ट्स पर आधारित समाधानों का पूरक है, न कि उनका प्रतिस्थापन है।