यू चेनडोंग ने openPangu-2.0-Pro प्रस्तुत किया: Ascend NPU पर प्रशिक्षित 505 बिलियन पैरामीटर वाला मॉडल

31 जुलाई को हुआवेई ने openPangu-2.0-Pro को सार्वजनिक रूप से उपलब्ध कराया। इस मॉडल में 505 बिलियन कुल पैरामीटर हैं, लगभग 180 बिलियन विरल सक्रियण और 512K का संदर्भ विंडो है। इसे 34 ट्रिलियन टोकन के आधार पर Ascend NPU पर प्रशिक्षित किया गया था। मुख्य अंतर पूर्ण कार्यात्मक ओपन सोर्स कोड है: कई अन्य ओपन सोर्स मॉडलों के विपरीत जो केवल वज़न प्रदान करते हैं, openPangu-2.0-Pro Ascend पर प्रशिक्षण से लेकर Ascend पर नेटिव रूप से चलने वाले इन्फेरेंस तक एक पूरी तरह से पुनरुत्पादनीय श्रृंखला प्रदान करता है। यह गैर-NVIDIA हार्डवेयर पर पूरी तरह से प्रशिक्षित 500 बिलियन से अधिक पैरामीटर वाला पहला फ्रंटियर-स्तरीय मॉडल है। सात घटकों को जारी किया गया था, जिसमें प्री-ट्रेनिंग और पोस्ट-ट्रेनिंग कोड शामिल थे। यू चेनडोंग ने 505 बिलियन पैरामीटर चुनने का कारण बताया कि कम्प्यूटेशनल क्षमताएं काफी हद तक अन्य घरेलू उद्यमों द्वारा उपयोग की जाती हैं, जिससे हुआवेई के लिए सीमित संसाधन बचते हैं।

मॉडल आर्किटेक्चर को संसाधन सीमाओं को ध्यान में रखते हुए अनुकूलित किया गया है और इसमें हाइब्रिड अटेंशन DSA प्लस SWA, चार-थ्रेडेड प्रकार के mHC अवशेष, तीन-हेड MTP स्व-प्रतिकृति और म्यूऑन ऑप्टिमाइज़र शामिल हैं। 128K संदर्भ विंडो पर न्यूनतम TPOT विलंबता 9.55 मिलीसेकंड है, और प्रति कार्ड थ्रूपुट 1326 टोकन प्रति सेकंड तक पहुंच जाता है, जो एज पर वास्तविक समय में संचालन की अनुमति देता है। विरल सक्रियण के साथ 512K संदर्भ विंडो मॉडल को डेटा का व्यापक विश्लेषण करने और कुशलतापूर्वक गणना करने की अनुमति देती है: यह एक ही पास में संपूर्ण अनुबंध सेट या कारखाने की वार्षिक लॉग पढ़ सकता है, जबकि लागत नियंत्रण बनाए रखता है। मॉडल लंबी संदर्भ एजेंट कार्यों पर केंद्रित है, जो एक डिजिटल कर्मचारी बन जाता है जो बहु-चरणीय निर्णय लेने, योजना और टूल कॉलिंग में सक्षम होता है, जो साधारण चैट से उपकरणों, वाहनों और औद्योगिक नियंत्रण के लिए पूर्ण कार्य में बदलाव का प्रतीक है। रिपोर्ट में ईमानदारी से स्वीकार किया गया है कि openPangu-2.0 अभी भी वास्तविक दुनिया की जटिल सॉफ्टवेयर इंजीनियरिंग समस्याओं में अग्रणी मॉडलों से पीछे है, जो दीर्घकालिक रणनीति को दर्शाता है।

पंगु मॉडल उद्योग के लिए एआई विशेषज्ञ के रूप में कार्य करता है, L0 फाउंडेशन, L1 इंडस्ट्री और L2 परिदृश्य आर्किटेक्चर का उपयोग करता है। सरकारी मॉडल पूरी तरह से स्थानीय रूप से काम करते हैं। उदाहरण के लिए, पुडोंग डेवलपमेंट बैंक ने पु हुई क्लाउड सांग नामक एक वेयरहाउस बैंक बनाया, जिसने माल की पहचान में 5-10% की वृद्धि की और विकास समय को महीनों से दिनों तक कम कर दिया। पेट्रोचाइना कुनलुन ने सब-मिलीमीटर स्तर के दोषों को दूर करके 40% की वृद्धि हासिल की, और निर्माताओं ने प्रति भट्टी प्रतिदिन 20 टन ईंधन बचाना शुरू कर दिया। इंटेलिजेंट ड्राइविंग 512K विंडो में पथ समझ से लाभान्वित होता है। गुआंगयाओ ने दवा की प्रारंभिक खोज की लागत में 70% की कमी की, और हानयू ने उत्पादन निर्णय लेने की दक्षता में 90% सुधार किया। तियानजिन एनर्जी ने ऊर्जा खपत में 10% की कमी के साथ 100% हीटिंग संतुलन प्राप्त किया। छोटे व्यवसाय सबसे अधिक लाभान्वित होते हैं: अब जिला अस्पताल या स्थानीय कृषि संस्थान उद्योग एजेंट रख सकते हैं।

रिलीज़ जानबूझकर की गई थी: 30 जून को HDC 2026 में सात घटकों का खुलासा शुरू हुआ। पहले 92 बिलियन पैरामीटर वाला फ्लैश मॉडल जारी किया गया था, और एक महीने बाद भारी प्रो संस्करण जारी किया गया, जिससे केवल रिपॉजिटरी जारी करने के बजाय प्रशिक्षण विधियों और इंजीनियरिंग ज्ञान को प्रदान करना संभव हो गया। यह दृष्टिकोण जेन झेंगफेई के एप्पल के विचार से मेल खाता है: खुला सहयोग जो केवल सबसे फायदेमंद हिस्से पर केंद्रित है। एआई युग में, एक मशीन के प्रदर्शन से पहले पारिस्थितिकी तंत्र की जीत होती है। खुले चैनल डेवलपर्स को Ascend प्लस Pangu नदी की ओर निर्देशित करते हैं, और जैसे-जैसे उपयोगकर्ता बढ़ते हैं, यह नदी फैलती जाती है। openPangu-2.0-Pro घरेलू समुदाय के लिए 'पत्थर' के रूप में कार्य करता है: जब प्रमुख खिलाड़ी सामूहिक रूप से अपनी क्षमताओं को फैलाते हैं, तो निचले स्तर के एप्लिकेशन फलते-फूलते हैं, और चीनी उद्यम पहली बार स्वतंत्र स्टैक पर संयुक्त शक्ति बना सकते हैं। एक कंपनी के लिए जो भारी दबाव में है, सबसे भारी मुख्य तकनीक को सभी को सौंपना विश्वास का उच्चतम रूप है।