चीनी एआई चिप डेवलपर्स में कनेक्शन स्केलिंग के लिए आंतरिक समाधानों के प्रदर्शन की समीक्षा
और पढ़ें
Pandaily
pandaily.com

चीनी एआई चिप डेवलपर्स में कनेक्शन स्केलिंग के लिए आंतरिक समाधानों के प्रदर्शन की समीक्षा

सितंबर की औद्योगिक रिपोर्ट, जिसे मओयुआन थिंक टैंक द्वारा तैयार किया गया और सेमीकंडक्टर इंडस्ट्री वॉच द्वारा प्रसारित किया गया, विश्लेषण करती है कि पांच पंजीकृत चीनी आर्टिफिशियल इंटेलिजेंस एक्सेलेरेटर आपूर्तिकर्ता स्केलिंग के लिए अपनी स्वयं की फैक्ट्रियां कैसे बना रहे हैं। ये फैक्ट्रियां चिप्स के बीच कनेक्शन का प्रतिनिधित्व करती हैं जो कई कार्डों को सर्वर या रैक के भीतर एक एकल मशीन के रूप में कार्य करने की अनुमति देती हैं।

विश्लेषण तकनीकी प्रकृति का है और प्रकाशित थ्रूपुट, उत्पाद मिलान और पारिस्थितिकी तंत्र के लिए कार्यान्वयन प्रमाण स्तरों पर केंद्रित है, जिसमें धन उगाहने या स्टॉक मूल्य पर कथाओं को बाहर रखा गया है।

स्केलिंग ईथरनेट या इन्फिनिबैंड फैक्ट्रियों से अलग है, जो नोड्स को बड़े क्लस्टर में जोड़ती है। इस समीक्षा में केवल एक्सेलेरेटर से एक्सेलेरेटर तक विकसित चिप विक्रेता द्वारा विकसित बसें शामिल हैं। फिर उनका मूल्यांकन सार्वजनिक डेटा के आधार पर किया जाता है: पूरी तरह से जानकारी की कमी से लेकर शोध पत्रों, प्रकाशित विनिर्देशों, नमूनों, ग्राहक पुष्टि, पहली डिलीवरी, पुनर्वितरण और सत्यापित सिंगल डोमेन कनेक्शन के साथ पुनर्वितरण तक।

तकनीकी शीट में उल्लिखित अधिकतम कार्डों की संख्या इस बात का प्रमाण नहीं है कि ग्राहक पहले से ही उत्पादन में उस आकार के डोमेन का उपयोग कर रहे हैं।

कैम्ब्रिकॉन का MLU-Link समीक्षित सामग्रियों में पहली डिलीवरी का सबसे स्पष्ट उदाहरण है। MLU370-X8 के उत्पाद पृष्ठों पर चार पोर्ट वाले प्रति कार्ड 200 जीबी/सेकंड का कुल द्विदिश थ्रूपुट सूचीबद्ध है। पुराने MLU290 वर्ग के मॉड्यूल छह पोर्ट पर 600 जीबी/सेकंड तक का MLU-Link कुल थ्रूपुट प्रदर्शित करते हैं, जो मल्टी-चिप बोर्ड और साधारण PCIe से परे सिस्टम इंटरकनेक्ट का समर्थन करते हैं।

एनफ्लेम क्लाउडब्लेज़र पीढ़ियों के माध्यम से GCU-LARE के लिए एक पेटेंटेड स्केलिंग पथ प्रस्तुत करता है। सार्वजनिक डेटा DTU 1.0 वर्ग के कार्डों पर लगभग 200 जीबी/सेकंड द्विदिश और DTU 2.0 / T20–T21 वर्ग के मॉड्यूल पर लगभग 300 जीबी/सेकंड दिखाता है, जो चिप से पीढ़ी तक अधिक स्पष्ट मार्ग प्रदान करता है, भले ही अंतिम ग्राहक डोमेन आकार खुले दस्तावेजों के माध्यम से सत्यापित करना कठिन हो।

बाइरेन अपना BLink स्केलिंग प्रोटोकॉल प्रकट करता है। BR166 वर्ग की सामग्री लगभग 576 जीबी/सेकंड द्विदिश कनेक्शन थ्रूपुट का संकेत देती है, जबकि नए BLink 2.0 संदेश मेमोरी सिमेंटिक लिंक और 1024 GPU तक लक्षित ऑप्टिकल सुपरनोड रोडमैप का सुझाव देते हैं।

मूर थ्रेड्स MTLink ब्रांड का उपयोग करता है, जो MTT S4000 ब्रिज टोपोलॉजी पर 240 जीबी/सेकंड तक के आंकड़े प्रस्तुत करता है, जिसमें दो-, चार- और आठ-कार्ड कनेक्शन शामिल हैं, साथ ही MTT S5000 क्लास उपकरणों पर कार्ड से कार्ड 784 जीबी/सेकंड भी है। KUAE क्लस्टर सामग्री कई कार्डों के प्रशिक्षण की रैखिकता पर जोर देती है।

MetaX ने आधिकारिक दस्तावेजों में प्रतिस्पर्धी उत्पादों के संबंध में अपने स्वयं के स्केलिंग का वर्णन किया और लगभग 64 जीपीयू को जोड़ने वाली रैक स्तर की Xijing S600 संरचनाओं का प्रदर्शन किया, हालांकि रिपोर्ट अभी भी शिप किए गए SKU और ग्राहकों द्वारा प्रदान की गई सटीक फैक्ट्री के बीच एक मजबूत संबंध की मांग करती है।

हालांकि थ्रूपुट मेट्रिक्स पांच कंपनियों के बीच चर्चा का विषय बन गए हैं, द्विदिश बनाम यूनिडायरेक्शनल इकाइयों, प्रति कार्ड बनाम प्रति चिप गणना, और एक ही डोमेन के भीतर सत्यापित तैनाती जैसे पैरामीटर असमान बने हुए हैं। समीक्षा में शामिल किसी भी विक्रेता ने अभी तक स्वतंत्र रूप से सत्यापन योग्य डोमेन आकार के उच्चतम स्तर के पुनर्वितरण तक नहीं पहुंचा है - यह सबूतों में एक अंतराल है जिस पर ऑपरेटरों को ध्यान देना चाहिए क्योंकि हजारों कार्डों के क्लस्टर बढ़ते हैं।

समान कहानियाँ

शेनझेन में CIOE प्रदर्शनी एआई कंप्यूटिंग के विकास के साथ ऑप्टिकल इंटरकनेक्ट्स पर केंद्रित है
और पढ़ें
pandaily.com

शेनझेन में CIOE प्रदर्शनी एआई कंप्यूटिंग के विकास के साथ ऑप्टिकल इंटरकनेक्ट्स पर केंद्रित है

27वीं चाइनीज इंटरनेशनल ऑप्टोइलेक्ट्रॉनिक एक्सपो (CIOE) में, जो 9 सितंबर को शेनझेन में शुरू हुई, विशेष ध्यान ऑप्टिकल संचार के नए विकास चक्र पर दिया जा रहा है, जिसे एआई कंप्यूटिंग के लिए बुनियादी ढांचे के विस्तार से प्रेरित किया गया है।

जैसे-जैसे आर्टिफिशियल इंटेलिजेंस के लिए सर्वर क्लस्टर बढ़ते हैं, जीपीयू, सर्वरों और डेटा केंद्रों के बीच डेटा विनिमय बैंडविड्थ, ऊर्जा खपत और दूरी के मामले में पारंपरिक विद्युत कनेक्शनों पर दबाव डालता है। यह उच्च गति वाले ऑप्टिकल लाइनों के बढ़ते महत्व को रेखांकित करता है।

मध्यम और कम गति वाले मानक चिप्स अब बड़े क्लस्टरों की मांगों को पूरा नहीं कर पाते हैं। प्रदर्शनी में 400G, 800G और 1.6T की गति वाले ऑप्टिकल मॉड्यूल, साथ ही LPO, NPO और CPO जैसे नए दृष्टिकोण प्रस्तुत किए जाएंगे।

चीनी मॉड्यूल निर्माताओं द्वारा नवाचारों को सक्रिय रूप से अपनाया जा रहा है। Eoptolink कंपनी सिलिकॉन फोटोनिक्स और पतली फिल्म लिथियम नाइओबेट पर आधारित 400G से 1.6T तक की पूरी श्रृंखला प्रदान करती है, साथ ही 6.4T क्षमता वाले NPO मॉड्यूल, उद्योग का पहला 12.8T XPO मॉड्यूल और 1.6T DR4 OSFP घटक भी पेश करती है।

Accelink 400G, 800G और 1.6T रेंज की जरूरतों को पूरा करता है, जिसमें कम ऊर्जा खपत वाले विकल्प और डेटा सेंटर इंटरकनेक्शन के लिए कोहेरेंट मॉड्यूल शामिल हैं। HGTECH बड़े पैमाने पर 800G मॉड्यूल प्रदर्शित कर रहा है, 1.6T उत्पादन बढ़ा रहा है, और एक 3.2T क्षमता वाला सिलिकॉन फोटोनिक्स आधारित NPO मॉड्यूल प्रस्तुत किया है जिसे एक प्रमुख ग्राहक ने मंजूरी दी है।

उद्योग का केंद्रीय प्रश्न यह है कि गणना ब्लॉकों के यथासंभव करीब प्रकाश संकेतों को कैसे बनाए रखा जाए। पारंपरिक प्लग-इन मॉड्यूल प्रिंटेड सर्किट बोर्ड का उपयोग करते हैं, जिससे गति बढ़ने पर नुकसान और ऊर्जा की खपत बढ़ जाती है। LPO तकनीक DSP को सरल बनाकर या हटाकर ऊर्जा की खपत और लागत को कम करती है। NPO ऑप्टिकल ड्राइव को स्विचिंग चिप्स के करीब लाता है, और CPO ऑप्टिक्स को सीधे स्विच ASIC के साथ एकीकृत करता है।

कॉपर कनेक्शन के संबंध में, Luxshare ने NVIDIA के अगली पीढ़ी के Rubin प्लेटफॉर्म के लिए हाई-स्पीड कॉपर बैकप्लेन विकसित करने की घोषणा की है, जिसकी ग्राहकों को पहली डिलीवरी 2027 के अंत में होने की योजना है।

ऑप्टिकल फाइबर एक और महत्वपूर्ण खंड है। प्रदर्शनकारियों में YOFC जैसे प्रमुख केबल निर्माता शामिल हैं, जो वाणिज्यिक और पायलट परियोजनाओं में 10,000 किलोमीटर से अधिक फाइबर की आपूर्ति के बाद अल्ट्रा-लो लेटेंसी के लिए हॉलो कोर फाइबर पर काम कर रहा है। Hengtong और ZTT भी भाग ले रहे हैं।

रिसर्च फर्म LightCounting का अनुमान है कि 2026 तक 800G और 1.6T गति वाले मॉड्यूल बाजार में लगभग 14.6 बिलियन अमेरिकी डॉलर का हिस्सा लेंगे, जो पूरे ऑप्टिकल मॉड्यूल बाजार का लगभग 64% होगा। यह पुष्टि करता है कि एआई उच्च गति, कम ऊर्जा खपत और छोटे विद्युत कनेक्शन की ओर ऑप्टिकल संचार के विकास को बढ़ावा दे रहा है।

27 बिलियन पैरामीटर वाली स्थानीय मॉडल स्टार्टलक्स ने चीनी एआई बेंचमार्क में डीपसीक V4 फ्लैश को पछाड़ा
और पढ़ें
pandaily.com

27 बिलियन पैरामीटर वाली स्थानीय मॉडल स्टार्टलक्स ने चीनी एआई बेंचमार्क में डीपसीक V4 फ्लैश को पछाड़ा

चीनी सूचना और संचार प्रौद्योगिकी अकादमी (CAICT) द्वारा तैयार की गई एक रिपोर्ट के अनुसार, स्थानीय मॉडलों के मानचित्र पर एक नया खिलाड़ी उभरा है। शंघाई स्थित कंपनी स्टार्टलक्स ने स्टार्टलक्स-V1.0-27B-Preview मॉडल विकसित किया है, जिसने केवल 27 अरब मापदंडों का उपयोग करते हुए, सत्यापित एआई बेंचमार्क की श्रृंखला के भीतर विशेष MCP टेस्ट के समग्र स्कोर में दूसरा स्थान हासिल किया, और डीपसीक-V4-फ्लैश को पीछे छोड़ दिया।

MCP टेस्ट छह विशिष्ट कार्यों का मूल्यांकन करता है: स्थान नेविगेशन, इंटरनेट खोज, ब्राउज़र स्वचालन, वित्तीय विश्लेषण, कोड रिपॉजिटरी प्रबंधन और 3डी डिजाइन, और इसमें कई उपकरणों के समन्वय, जटिल कार्यों के निष्पादन और वास्तविक दुनिया की स्थितियों में बातचीत पर केंद्रित एक व्यापक मूल्यांकन भी शामिल है। परीक्षण किए गए मॉडलों में डीपसीक-V4-प्रो (1.6 ट्रिलियन पैरामीटर), डीपसीक-V4-फ्लैश-0731 (284 अरब), स्टेप-3.7-फ्लैश (198 अरब), स्टार्टलक्स-27बी-260715 (27 अरब), क्यूवेन-3.6-27बी (27 अरब) और एजेंटसीपीएम-एक्सप्लोर (4 अरब) शामिल थे।

स्टार्टलक्स-V1.0-27B-Preview ने 39.25 का स्कोर प्राप्त किया, जिससे उसे दूसरा स्थान मिला, जिसने 284 अरब पैरामीटर वाले डीपसीक-V4-फ्लैश और 198 अरब पैरामीटर वाले स्टेप-3.7-फ्लैश दोनों को पीछे छोड़ दिया। समान पैरामीटर आकार पर, इसने क्यूवेन-3.6-27बी को 5.34 अंकों से आगे निकल गया। मॉडल ने स्थान नेविगेशन में पहला स्थान हासिल किया, और ब्राउज़र स्वचालन और वित्तीय विश्लेषण में पहला स्थान प्राप्त किया या उसके बराबर प्रदर्शन किया, कुछ मामलों में डीपसीक-V4-प्रो के ट्रिलियन मॉडल के स्तर तक पहुंच गया।

यह मॉडल क्यूवेन3.6-27बी पर आधारित है जिसमें प्रशिक्षण के बाद अतिरिक्त सुधार किया गया है। स्टार्टलक्स ने 'एआई ट्रेन करता है एआई' (स्वचालित खोज) नामक एक दृष्टिकोण लागू किया है, जो स्वचालित रूप से प्रायोगिक प्रशिक्षण आयोजित करने और फीडबैक के माध्यम से रणनीति को परिष्कृत करने की अनुमति देता है। कंपनी का दावा है कि यह चीन में स्थानीय एजेंट मॉडल के लिए इस पद्धति का पहला अनुप्रयोग है।

यह परिणाम उद्योग में एक व्यापक बदलाव को दर्शाता है। चूंकि अत्याधुनिक मॉडलों का प्रदर्शन व्यावहारिक सीमा मूल्यों तक पहुंच गया है, इसलिए पैरामीटर दौड़ का युग समरूपता के चरण में बदल गया है; उपयोगकर्ताओं की प्राथमिकताएं तेजी से उच्च बेंचमार्क स्कोर प्राप्त करने के बजाय वास्तविक समस्याओं को हल करने, डेटा सुरक्षा और लागत नियंत्रण सुनिश्चित करने की ओर स्थानांतरित हो रही हैं। वैश्विक खिलाड़ी इसी दिशा में आगे बढ़ रहे हैं: गूगल का जेम्मा 4, मेटा का ओपन म्यूज ग्लिमर और एनवीडिया का नेमोट्रॉन 3.5 लाइटनिंग स्थानीय तैनाती पर लक्षित हैं।

स्टार्टलक्स-V1.0-27B-Preview उपभोक्ता पीसी पर चल सकता है, और कंपनी इस वर्ष अपने पहले पीढ़ी के स्थानीय इंटेलिजेंस समाधान जारी करने की योजना बना रही है। CAICT के परिणाम उद्यमों को संकेत देते हैं कि कॉम्पैक्ट, स्थानीय रूप से तैनात मॉडल अब वास्तविक कार्यप्रवाहों में महत्वपूर्ण कार्यों के लिए बहुत बड़े क्लाउड समाधानों के साथ प्रतिस्पर्धा करने में सक्षम हैं, जो खरीद निर्णयों को बदलना शुरू कर रहा है।

ज़िपु एआई का GLM-5.3-Flash मॉडल 100,000 घरेलू चिप्स पर काम करता है और ओपनरॉटर पर उपयोग में अग्रणी है
और पढ़ें
pandaily.com

ज़िपु एआई का GLM-5.3-Flash मॉडल 100,000 घरेलू चिप्स पर काम करता है और ओपनरॉटर पर उपयोग में अग्रणी है

ज़िपु एआई ने GLM-5.3-Flash मॉडल पेश किया है, जो कंपनी के अनुसार, पूरी तरह से आंतरिक आर्टिफिशियल इंटेलिजेंस चिप्स पर काम करता है। मॉडल के सभी ऑनलाइन ट्रैफ़िक को संसाधित करने के लिए 100,000 स्थानीय रूप से उत्पादित एक्सेलेरेटर का उपयोग किया जाता है।

यह मॉडल एनालिटिकल फर्म आर्टिफिशियल एनालिसिस की AAII रैंकिंग में दसवें स्थान पर रहा, जिसने डीपसीक'स V4 प्रो मैक्स को पीछे छोड़ दिया। ज़िपु एआई ने इस बात पर जोर दिया कि GLM-5.3-Flash के सभी अनुरोधों को इन 100,000 चिप्स द्वारा संभाला जाता है, जो देश के भीतर उत्पादित हैं।

शुरुआत में GLM-5.3-Flash को 20 अगस्त को कोडनेम 'ऑक्स अल्फा' के तहत जारी किया गया था और एक सप्ताह के भीतर यह ओपनरॉटर प्लेटफॉर्म पर एआई मॉडल रूटिंग सूचियों में शीर्ष पर पहुंच गया। कंपनी इस मॉडल को उच्च प्रदर्शन वाला बताती है, जो चीन के भीतर कंप्यूटिंग बुनियादी ढांचे पर बड़े पैमाने पर काम करने के लिए पर्याप्त कुशल है।

ज़िपु एआई ने सार्वजनिक रूप से यह खुलासा नहीं किया है कि किस विशिष्ट चिप आपूर्तिकर्ता का उपयोग किया गया था। हालांकि, सीएनबीसी की रिपोर्टों के अनुसार, विश्लेषकों का अनुमान है कि हार्डवेयर हुआवेई के एस्केंड श्रृंखला से संबंधित है। काउंटरपॉइंट रिसर्च फर्म के विश्लेषक इवान लिन ने उल्लेख किया कि चीनी एआई मॉडल डेवलपर्स तेजी से घरेलू चिप्स पर निर्मित एआई सर्वर और कंप्यूटिंग बुनियादी ढांचे में निवेश कर रहे हैं।

यह लॉन्च इस बात का सबसे स्पष्ट संकेत है कि कम से कम एक प्रमुख मॉडल विकास प्रयोगशाला चीन में मानती है कि आंतरिक आपूर्ति श्रृंखला प्रमुख कार्यभार का समर्थन करने के लिए तैयार है। ज़िपु एआई कंप्यूटिंग क्षमताओं के विस्तार में 'चीनी बाघों' में सबसे सक्रिय में से एक है, और अपने स्वयं के एक्सेलेरेटर पर 'फ्रंटियर' क्लास मॉडल का दैनिक संचालन प्रदर्शन और चिप उपलब्धता दोनों का एक बयान है।

यह कदम उद्योग में एक व्यापक प्रवृत्ति के अनुरूप भी है। चूंकि निर्यात नियंत्रण विदेशी उन्नत चिप्स तक पहुंच को सीमित करते हैं, इसलिए चीनी मॉडल निर्माता उस हार्डवेयर के लिए अपने सॉफ़्टवेयर को अनुकूलित करने की जल्दी में हैं जिसे वे वास्तव में खरीद सकते हैं। घरेलू चिप्स पर काम करते समय बेंचमार्क में उच्च परिणाम प्रदर्शित करने वाला मॉडल इस बात का प्रमाण है कि सॉफ्टवेयर की दक्षता हार्डवेयर में कमियों की भरपाई कर सकती है।

ज़िपु एआई के लिए, फ्लैश लाइन मॉडल की गुणवत्ता को व्यावहारिक स्केलेबिलिटी के साथ संयोजित करने की रणनीति का प्रतिनिधित्व करती है। 100,000 चिप्स के समर्थन के साथ, GLM-5.3-Flash यह प्रदर्शित करने के लिए डिज़ाइन की गई है कि चीन की प्रयोगशाला आयातित एक्सेलेरेटर पर निर्भर हुए बिना प्रतिस्पर्धी 'फ्रंटियर' स्तर का प्रदर्शन प्रदान करने में सक्षम है।

लोकप्रिय