DeepSeek सभी V4-Pro API ट्रैफ़िक को Flash दरों पर V4.1-Flash पर रीडायरेक्ट कर रहा है

Cambricon ने ओपन इन्फेरेंस स्टैक vLLM के आधार पर Day-0 कार्यक्रम के हिस्से के रूप में DeepSeek-V4.1-Flash मॉडल के सफल अनुकूलन की घोषणा की है। इसका मतलब है कि हाल ही में जारी किए गए मॉडल को उस दिन Cambricon के एक्सेलेरेटर पर स्थिर रूप से चलाया जा सकता है जिस दिन DeepSeek ने चेकपॉइंट प्रकाशित किया था।

यह घोषणा चिप और सॉफ्टवेयर के बीच तालमेल पर प्रकाश डालती है: मॉडल और चिप की एक साथ उपलब्धता, और Cambricon के NeuWare और vLLM को संयोजित करने वाले दृष्टिकोण की परिपक्वता। यह स्वयं मॉडल की सामान्य उपलब्धता के बारे में जानकारी को दोहराना नहीं है।

DeepSeek-V4.1-Flash DeepSeek की नई आर्किटेक्चरल श्रृंखला का सबसे छोटा संस्करण है। यह 552 बिलियन पैरामीटर वाला एक मिश्रण-के-विशेषज्ञ (mixture-of-experts) प्रकार का मॉडल है जो इनपुट साइड पर लगभग 8 बिलियन और आउटपुट साइड पर 16 बिलियन पैरामीटर सक्रिय करता है, और इसमें मल्टीमॉडल विजन की अंतर्निहित समझ भी है। DeepSeek ने Causal-Encoder-Decoder संरचना और KV-कैश के आक्रामक संपीड़न का उपयोग करने पर जोर दिया है, जिससे पिछले पीढ़ी की तुलना में HBM की आवश्यकता लगभग एक चौथाई और SSD की आवश्यकता आठवें हिस्से तक कम हो जाती है, जबकि कैश का आकार पहले संस्करण की तुलना में सैकड़ों गुना छोटा होता है।

ये मेमोरी बचत एक्सेलेरेटर निर्माताओं के लिए महत्वपूर्ण हैं जो सघन सर्वरों पर इन्फेरेंस विलंबता, DRAM की मात्रा और भंडारण स्तरों को नियंत्रित करना चाहते हैं, जिन पर पहले से ही HBM बजट पर दबाव पड़ रहा है।

अपनी ओर से, Cambricon के इंजीनियरों ने Engram और Compressor जैसी संरचनाओं को तेज करने के लिए Torch-MLU-Ops लाइब्रेरी का उपयोग किया, और विरल और संपीड़ित ध्यान के हॉटस्पॉट के लिए BangC पर अनुकूलित कर्नेल लिखे। vLLM के भीतर, Cambricon पांच-आयामी मिश्रित समानांतरवाद का समर्थन करने का दावा करता है, जिसमें टेंसर, पाइपलाइन, अनुक्रमिक, बैच और विशेषज्ञ समानांतरवाद शामिल है, जिसमें संचार और गणना का ओवरलैप, कम सटीकता क्वांटाइजेशन और एंड-टू-एंड थ्रूपुट बढ़ाने के लिए प्रीफाइल और डीकोडिंग विभाजन शामिल है। यह स्टैक कंपनी के दीर्घकालिक सॉफ्टवेयर प्लेटफॉर्म, NeuWare पर काम करता है।

कुछ दिन पहले, Cambricon पायटॉर्च फाउंडेशन में प्लैटिनम सदस्य के रूप में शामिल हुआ, अन्य प्रमुख हार्डवेयर और क्लाउड सेवा डेवलपर्स के साथ प्रबंधन बोर्ड में जगह बनाई, जो ओपन लर्निंग और इन्फेरेंस इकोसिस्टम में गहरे निवेश का संकेत देता है।

अब Cambricon पाँच प्रमुख चीनी मॉडल लाइनों के लिए Day-0 इन्फेरेंस समर्थन प्रदान करता है: GLM, DeepSeek, Qwen, Kimi और MiniMax, जो क्रमशः Zhipu AI, DeepSeek, Alibaba, Moonshot AI और MiniMax का प्रतिनिधित्व करते हैं। Caixin Global ने विशेष रूप से Cambricon को उसी दिन शामिल करने की क्षमता पर टिप्पणी की, जिसे चीन में मॉडल और चिप्स के आंतरिक विकास चक्रों में कमी के संकेत के रूप में देखा गया है - महीनों के बंद पोर्ट से ऑपरेटरों द्वारा मानकीकृत सार्वजनिक फ्रेमवर्क पर लॉन्च की तैयारी तक का संक्रमण।

क्लस्टर ऑपरेटरों के लिए व्यावहारिक निष्कर्ष सहवर्ती उपलब्धता है: जब कोई उन्नत ओपन मॉडल जारी होता है, तो Cambricon के ग्राहक बंद फोर्क की प्रतीक्षा करने के बजाय vLLM नुस्खे का उपयोग कर सकते हैं। सॉफ्टवेयर पारिस्थितिकी तंत्र के लिए अगली परीक्षा यह होगी कि क्या यह Day-0 योजना बड़े DeepSeek वेरिएंट और मल्टीमॉडल सेवा मिश्रणों पर लागू होती है।

चीनी कंपनी डीपसीक ने अपने नवीनतम आर्टिफिशियल इंटेलिजेंस मॉडल V4.1-फ्लैश का परिचय दिया है। इस नई तकनीक को अपने मॉडल परिवार के सबसे छोटे संस्करण के रूप में प्रस्तुत किया गया है और यह अधिक फुर्तीले उत्तरों, उच्च प्रसंस्करण क्षमता और कम परिचालन लागत का वादा करती है।

यह लॉन्च तब हो रहा है जब डीपसीक शंघाई में स्थित स्टार मार्केट में आरंभिक सार्वजनिक पेशकश (IPO) के लिए तैयारी कर रही है, जैसा कि रॉयटर्स द्वारा रिपोर्ट किया गया है। इसके अलावा, कंपनी अपने पुराने मॉडलों के संस्करणों को बदलकर V4.1-फ्लैश को लागू कर रही है।

नई श्रृंखला में सबसे छोटा मॉडल होने के बावजूद, V4.1-फ्लैश में 552 बिलियन पैरामीटर हैं, जो एआई द्वारा डेटा संसाधित करने और आउटपुट उत्पन्न करने के लिए उपयोग किए जाने वाले घटक हैं। हालांकि, प्रत्येक कार्य के दौरान, यह इन संसाधनों का केवल एक अंश का उपयोग करता है, विशेष रूप से जानकारी प्राप्त करने के लिए 8 बिलियन पैरामीटर और उत्तर तैयार करने के लिए 16 बिलियन पैरामीटर का उपयोग करता है।

उपयोगकर्ता के लिए व्यावहारिक उद्देश्य यह है कि मॉडल अधिक तेज़ी से काम करे और अत्यधिक कम्प्यूटेशनल संसाधनों की मांग किए बिना अनुरोधों की बड़ी मात्रा को संभाल सके। डीपसीक यह भी सुनिश्चित करती है कि सिस्टम को भविष्य में और बड़े मॉडल विकसित करने में आसानी के लिए डिज़ाइन किया गया है।

कंपनी ने इस बात पर प्रकाश डाला कि V4.1-फ्लैश में 'नेटिव विज़ुअल अंडरस्टैंडिंग' है, जो इसे छवियों जैसे दृश्य सामग्री की व्याख्या करने की अनुमति देता है। विभिन्न संस्थाओं द्वारा किए गए परीक्षणों से पता चला है कि यह नया मॉडल प्रदर्शन, लागत, गति और कुल निष्पादन समय के मामले में V4-प्रो से बेहतर है।

एक महत्वपूर्ण बदलाव इस बात में निहित है कि मॉडल ऑपरेशन के दौरान डेटा को कैसे संग्रहीत करता है, जो ऐतिहासिक रूप से लंबी अवधि की एआई सेवाओं की लागत बढ़ा सकता था। पिछली पीढ़ी की तुलना में, डीपसीक ने कहा कि V4.1-फ्लैश को कम संसाधनों की आवश्यकता होती है, जिससे कंपनी के अनुसार, विशेष रूप से एआई एजेंटों और उन प्रणालियों में खर्च में भारी कमी आ सकती है जो न्यूनतम मानवीय हस्तक्षेप के साथ कार्य करती हैं।

V4.1-फ्लैश अब डीपसीक एपीआई के माध्यम से उपलब्ध है, जो मॉडल को अन्य अनुप्रयोगों में एकीकृत करने की अनुमति देता है। V4-फ्लैश और V4-फ्लैश-विजन-एक्सप मॉडल को बंद कर दिया गया है और उनके कॉल अस्थायी रूप से नए सिस्टम पर रीडायरेक्ट किए जा रहे हैं।

चीनी सूचना और संचार प्रौद्योगिकी अकादमी (CAICT) द्वारा तैयार की गई एक रिपोर्ट के अनुसार, स्थानीय मॉडलों के मानचित्र पर एक नया खिलाड़ी उभरा है। शंघाई स्थित कंपनी स्टार्टलक्स ने स्टार्टलक्स-V1.0-27B-Preview मॉडल विकसित किया है, जिसने केवल 27 अरब मापदंडों का उपयोग करते हुए, सत्यापित एआई बेंचमार्क की श्रृंखला के भीतर विशेष MCP टेस्ट के समग्र स्कोर में दूसरा स्थान हासिल किया, और डीपसीक-V4-फ्लैश को पीछे छोड़ दिया।

MCP टेस्ट छह विशिष्ट कार्यों का मूल्यांकन करता है: स्थान नेविगेशन, इंटरनेट खोज, ब्राउज़र स्वचालन, वित्तीय विश्लेषण, कोड रिपॉजिटरी प्रबंधन और 3डी डिजाइन, और इसमें कई उपकरणों के समन्वय, जटिल कार्यों के निष्पादन और वास्तविक दुनिया की स्थितियों में बातचीत पर केंद्रित एक व्यापक मूल्यांकन भी शामिल है। परीक्षण किए गए मॉडलों में डीपसीक-V4-प्रो (1.6 ट्रिलियन पैरामीटर), डीपसीक-V4-फ्लैश-0731 (284 अरब), स्टेप-3.7-फ्लैश (198 अरब), स्टार्टलक्स-27बी-260715 (27 अरब), क्यूवेन-3.6-27बी (27 अरब) और एजेंटसीपीएम-एक्सप्लोर (4 अरब) शामिल थे।

स्टार्टलक्स-V1.0-27B-Preview ने 39.25 का स्कोर प्राप्त किया, जिससे उसे दूसरा स्थान मिला, जिसने 284 अरब पैरामीटर वाले डीपसीक-V4-फ्लैश और 198 अरब पैरामीटर वाले स्टेप-3.7-फ्लैश दोनों को पीछे छोड़ दिया। समान पैरामीटर आकार पर, इसने क्यूवेन-3.6-27बी को 5.34 अंकों से आगे निकल गया। मॉडल ने स्थान नेविगेशन में पहला स्थान हासिल किया, और ब्राउज़र स्वचालन और वित्तीय विश्लेषण में पहला स्थान प्राप्त किया या उसके बराबर प्रदर्शन किया, कुछ मामलों में डीपसीक-V4-प्रो के ट्रिलियन मॉडल के स्तर तक पहुंच गया।

यह मॉडल क्यूवेन3.6-27बी पर आधारित है जिसमें प्रशिक्षण के बाद अतिरिक्त सुधार किया गया है। स्टार्टलक्स ने 'एआई ट्रेन करता है एआई' (स्वचालित खोज) नामक एक दृष्टिकोण लागू किया है, जो स्वचालित रूप से प्रायोगिक प्रशिक्षण आयोजित करने और फीडबैक के माध्यम से रणनीति को परिष्कृत करने की अनुमति देता है। कंपनी का दावा है कि यह चीन में स्थानीय एजेंट मॉडल के लिए इस पद्धति का पहला अनुप्रयोग है।

यह परिणाम उद्योग में एक व्यापक बदलाव को दर्शाता है। चूंकि अत्याधुनिक मॉडलों का प्रदर्शन व्यावहारिक सीमा मूल्यों तक पहुंच गया है, इसलिए पैरामीटर दौड़ का युग समरूपता के चरण में बदल गया है; उपयोगकर्ताओं की प्राथमिकताएं तेजी से उच्च बेंचमार्क स्कोर प्राप्त करने के बजाय वास्तविक समस्याओं को हल करने, डेटा सुरक्षा और लागत नियंत्रण सुनिश्चित करने की ओर स्थानांतरित हो रही हैं। वैश्विक खिलाड़ी इसी दिशा में आगे बढ़ रहे हैं: गूगल का जेम्मा 4, मेटा का ओपन म्यूज ग्लिमर और एनवीडिया का नेमोट्रॉन 3.5 लाइटनिंग स्थानीय तैनाती पर लक्षित हैं।

स्टार्टलक्स-V1.0-27B-Preview उपभोक्ता पीसी पर चल सकता है, और कंपनी इस वर्ष अपने पहले पीढ़ी के स्थानीय इंटेलिजेंस समाधान जारी करने की योजना बना रही है। CAICT के परिणाम उद्यमों को संकेत देते हैं कि कॉम्पैक्ट, स्थानीय रूप से तैनात मॉडल अब वास्तविक कार्यप्रवाहों में महत्वपूर्ण कार्यों के लिए बहुत बड़े क्लाउड समाधानों के साथ प्रतिस्पर्धा करने में सक्षम हैं, जो खरीद निर्णयों को बदलना शुरू कर रहा है।