मॉडल पैरामीटर की बढ़ती मांगों के बीच एआई सुपरनोड्स के लिए तकनीकी दिग्गजों की लड़ाई

एक्सपावर टेक्नोलॉजी ने डब्ल्यूएआईसी कार्यक्रम में आरपीपी एई7100ई आर्किटेक्चर चिप्स पेश किए। ये नाखून के आकार के माइक्रोचिप वितरित कंप्यूटिंग का उपयोग करके 400 बिलियन से 1.6 ट्रिलियन मापदंडों तक के मॉडल का समर्थन कर सकते हैं, साथ ही टोकन की न्यूनतम लागत भी सुनिश्चित करते हैं।

बड़े चिप्स के प्रभुत्व को चुनौती

डब्ल्यूएआईसी 2026 पर एक्सपावर टेक्नोलॉजी ने एआई कंप्यूटिंग के घरेलू बाजार में एक महत्वपूर्ण खिलाड़ी के रूप में खुद को स्थापित किया। कंपनी ने अपने मालिकाना रीकॉन्फ़िगरेबल पैरेलल प्रोसेसर आरपीपी आर्किटेक्चर पर आधारित अपनी आर्टिफिशियल इंटेलिजेंस एक्सेलेरेटर मैट्रिक्स का प्रदर्शन किया। यह आर्किटेक्चर क्लाउड, एज और एंड कंप्यूटिंग परिदृश्यों को कवर करता है। कंपनी का मुख्य विचार सीधे उद्योग के सामान्य सिद्धांत को चुनौती देता है कि विशाल चिप्स का उपयोग आवश्यक है।

आरपीपी का तकनीकी लाभ

एई7100ई चिप्स, जिनका आकार लगभग नाखून जितना है, को प्रति एक्सेलेरेटर कार्ड पर 12 इकाइयों में एकीकृत किया जा सकता है। यह कॉन्फ़िगरेशन वितरित कंप्यूटिंग के माध्यम से 400 बिलियन से 1.6 ट्रिलियन मापदंडों वाले बड़े भाषा मॉडल को चलाने की अनुमति देता है, जिससे उद्योग के लिए इष्टतम टोकन लागत दक्षता प्राप्त होती है। एक्सपावर के सीईओ, ली युआन ने टिप्पणी की कि प्रशिक्षण-उन्मुख कंप्यूटिंग से इन्फेरेंस-उन्मुख कंप्यूटिंग में बदलाव एक प्रमुख प्रवृत्ति है। उन्होंने इस बात पर जोर दिया कि एआई प्रोग्रामिंग इन्फेरेंस के लिए एक महत्वपूर्ण उपयोग मामला बन गया है, क्योंकि कंपनी के अनुभव से पता चला है कि एआई अब सीपी कंपाइलर विकास कर सकता है, जिसके लिए पहले वर्षों तक एक पेशेवर टीम की आवश्यकता होती थी, और इस क्षमता को विभिन्न कार्यों में तेजी से लागू करने के लिए बढ़ाया जा सकता है।

आर्थिक व्यवहार्यता और वास्तुकला

चूंकि वैश्विक डेटा केंद्रों में मॉडलों के 55% अनुरोध ओपन-सोर्स मॉडल बाजार पर आते हैं, इसलिए इन्फेरेंस बाजार केवल कुछ दिग्गजों के लिए ही नहीं, बल्कि किसी भी उद्यम के लिए सुलभ है, जो इन्फेरेंस के लिए लागत प्रभावी बुनियादी ढांचे की भारी मांग पैदा करता है। मुख्य अवलोकन इन्फेरेंस के दौरान बड़े चिप्स की अक्षमता है: डिकोडिंग के लिए 1:1 कंप्यूट-टू-डेटा अनुपात की आवश्यकता होती है, जबकि जीपीयू 1000:1 का अनुपात प्रदान करते हैं, जिससे थ्रूपुट का नुकसान होता है। एक्सपावर का आरपीपी आर्किटेक्चर वितरित छोटे चिप्स का उपयोग करता है, जो एक ही सर्वर के भीतर सूक्ष्म विशेषज्ञता प्रदान करता है। इसके अलावा, एक्सपावर का दृष्टिकोण महंगी एचबीएम तकनीक को अधिक परिपक्व एलपीडीडीआर से बदलता है, यह दावा करते हुए कि एआई इन्फेरेंस के लिए मौलिक रूप से तीन तत्वों की आवश्यकता होती है: बड़ी क्षमता, पर्याप्त बैंडविड्थ और कम लागत। एलपीडीडीआर तकनीक इन सभी आवश्यकताओं को एचबीएम की तुलना में काफी कम लागत पर पूरा करती है। प्रति कार्ड 12 चिप्स का कॉन्फ़िगरेशन एक ही सर्वर फॉर्म फैक्टर के भीतर चिप्स के बीच मेमोरी के विस्तृत विभाजन और डेटा के समानांतर प्रसंस्करण की अनुमति देता है। यह वितरित सर्वर आर्किटेक्चर एक्सपावर को एनवीडिया ग्रोक् के दृष्टिकोण से अलग करता है, जो भी वितरित मल्टी-चिप संरचनाओं का उपयोग करता है, लेकिन बहुत बड़े क्लस्टर पैमाने पर। आरपीपी आर्किटेक्चर की अंतर्निहित लचीलापन, जो सामान्य और डोमेन-विशिष्ट कंप्यूटिंग के बीच संतुलन बनाती है, एक ही चिप को क्लाउड, एज और एंड डिवाइस पर तैनाती परिदृश्यों के लिए उपयोग करने की अनुमति देती है।

बाजार का रणनीतिक दृष्टिकोण

डब्ल्यूएआईसी के दौरान, कंपनी ने अपने उत्पादन लाइन का प्रदर्शन किया, जिसमें एई7100ई चिप से लेकर 8 कार्ड पर उच्च घनत्व वाले सर्वर रैक तक शामिल है। एज कंप्यूटिंग से क्लाउड कंप्यूटिंग में कंपनी का संक्रमण इस रणनीतिक दांव पर है कि इन्फेरेंस बाजार, जिसका एक्सपावर सामान्य रूप से पता लगाने योग्य मूल्य के आधार पर प्रशिक्षण बाजार की तुलना में 10 गुना अधिक आंकता है, सबसे बड़े एकल चिप कंप्यूटिंग शक्ति द्वारा नहीं, बल्कि सबसे अधिक लागत प्रभावी वितरित प्रणालियों द्वारा जीता जाएगा। हालांकि इस परिकल्पना की पुष्टि वास्तविक कार्यान्वयन परिणामों पर निर्भर करेगी, आरपीपी आर्किटेक्चर कंप्यूटिंग के लिए सबसे मौलिक देशी दृष्टिकोणों में से एक का प्रतिनिधित्व करता है, जो बड़े चिप्स के सर्वसम्मति को चुनौती देता है, यह दावा करते हुए कि एआई इन्फेरेंस का भविष्य एकल मोनोलिथिक प्रोसेसर में नहीं, बल्कि समन्वित छोटे चिप्स के समूहों में निहित है।