ModelBest ने 3 जीबी मेमोरी का उपयोग करके फोन पर चलने वाला पहला MoE मल्टीमॉडल मॉडल MiniCPM-V 4.7 जारी किया
और पढ़ें
Pandaily
pandaily.com

ModelBest ने 3 जीबी मेमोरी का उपयोग करके फोन पर चलने वाला पहला MoE मल्टीमॉडल मॉडल MiniCPM-V 4.7 जारी किया

कंपनी ModelBest ने उपकरणों पर चलने के लिए अपनी मल्टीमॉडल मॉडल श्रृंखला का एक नया संस्करण - MiniCPM-V 4.7 - पेश किया है। यह मॉडल दो आकारों में उपलब्ध है: 35B-A3B और 1B। यह ध्यान रखना महत्वपूर्ण है कि 35B-A3B संस्करण MiniCPM-V श्रृंखला में Mixture-of-Experts (MoE) आर्किटेक्चर वाला पहला मॉडल है।

इस मॉडल के वज़न, कोड और दस्तावेज़ीकरण को Apache-2.0 लाइसेंस के तहत GitHub पर OpenBMB रिपॉजिटरी में प्रकाशित किया गया है।

मोबाइल उपकरणों पर दक्षता

मुख्य घोषित लाभ स्मार्टफोन पर काम करते समय उच्च दक्षता है। ModelBest का दावा है कि 35B-A3B मॉडल, जो प्रति टोकन लगभग 3 बिलियन पैरामीटर सक्रिय करता है, केवल लगभग 3 जीबी रैम का उपयोग करके iPhone 17 Pro Max पर चल सकता है। इस बीच, डिकोडिंग गति 13 टोकन प्रति सेकंड से अधिक है।

कंपनी इस परिणाम को LES (लुकअहेड एक्सपर्ट शेड्यूलिंग) नामक एक नई इन्फेरेंस त्वरण तकनीक के कारण बताती है, और मॉडल को पहले ओपन-सोर्स MoE मॉडल के रूप में वर्णित करती है जो सीधे डिवाइस पर बिना किसी नुकसान के निर्बाध रूप से कार्य कर सकता है।

परीक्षण परिणाम और तुलना

टीम द्वारा प्रस्तुत बेंचमार्क के अनुसार, 35B-A3B मॉडल निम्नलिखित परिणाम प्रदर्शित करता है: MMBench पर 91.72, OCRBench पर 91.2, और CMMLU पर 90.21। निर्देश मोड में, ModelBest का दावा है कि यह समग्र स्कोर में Qwen3.6 35B-A3B से बेहतर प्रदर्शन करता है, जबकि तर्क करने में लगने वाला समय कम होता है।

1B संस्करण ने MiniCPM-V 4.6 की तुलना में मूल क्षमताओं में सुधार किया है। इसके अलावा, कंपनी बताती है कि यह संस्करण समग्र स्कोर और इन्फेरेंस दक्षता दोनों में Qwen3.5 0.8B से आगे निकल जाता है।

QbitAI द्वारा किए गए परीक्षणों से पता चला है कि मॉडल ग्राफ़ पर तर्क और अकादमिक लेखों को मार्कडाउन प्रारूप में बदलने के कार्यों को सफलतापूर्वक संभालता है, और यह सब फोन पर ऑफ़लाइन होता है, जो दस्तावेजों के साथ गोपनीय स्थानीय कार्य के लिए लक्षित है।

प्लेटफ़ॉर्म समर्थन और अतिरिक्त उपकरण

MiniCPM-V 4.7 iOS, Android और HarmonyOS ऑपरेटिंग सिस्टम का समर्थन करता है। मॉडल को Intel, AMD, Arm, Rockchip और Houmo AI से चिपसेट प्लेटफॉर्म के साथ काम करने के लिए अनुकूलित किया गया है, जिससे इसे मोबाइल गैजेट्स और स्थानीय पीसी दोनों पर उपयोग किया जा सकता है।

मॉडल के साथ-साथ, ModelBest ने सेल्फ-रिप्ले फाइन-ट्यूनिंग (SRFT) विधि का ओपन-सोर्स कोड भी प्रदान किया है। यह फाइन-ट्यूनिंग विधि डेवलपर्स को न्यूनतम लागत पर नई सुविधाएँ जोड़ने में मदद करने के लिए डिज़ाइन की गई है, साथ ही पहले से प्राप्त कौशल को भूलने से भी रोकती है।

यह रिलीज़ MiniCPM श्रृंखला में मॉडलों की स्थिर रिलीज को जारी रखती है, जिसमें मई में MiniCPM-V 4.6 और सितंबर में टेक्स्ट मॉडल MiniCPM5-2B का अनुसरण किया गया था।

समान कहानियाँ

MemSilicon ने 1T4R आर्किटेक्चर पर आधारित RRAM चिप माउंटटाई 2026 प्रस्तुत किया
और पढ़ें
pandaily.com

MemSilicon ने 1T4R आर्किटेक्चर पर आधारित RRAM चिप माउंटटाई 2026 प्रस्तुत किया

मेमोरी क्षेत्र की चीनी स्टार्टअप MemSilicon ने अपने पहले उच्च घनत्व और बड़ी क्षमता वाले RRAM चिप, जिसका नाम माउंटटाई 2026 है, के टेप-आउट प्रक्रिया को पूरा करने की घोषणा की, जो 12 अक्टूबर को किया गया था। कंपनी का दावा है कि यह इस प्रकार का पहला RRAM चिप है जिसमें उच्च घनत्व और बड़ी क्षमता है, हालांकि इस दावे का अभी तक स्वतंत्र रूप से सत्यापन नहीं किया गया है। वर्तमान में, चिप टेप-आउट पूरा होने के बाद सत्यापन चरण से गुजर रहा है।

माउंटटाई 2026 चिप को 28nm CMOS प्रक्रिया का उपयोग करके विकसित किया गया है और इसमें 1T4R सेल संरचना है। यह प्रति चिप 1 Gbit की क्षमता प्रदान करता है, 30 Mbit प्रति वर्ग मिलीमीटर का घनत्व प्राप्त करता है, और एक्सेस विलंब 20 नैनोसेकंड से कम है। इसके अलावा, चिप में सीधे क्रिस्टल पर हार्डवेयर त्रुटि सुधार शामिल है।

RRAM, या रेजिस्टर्सिव रैम, प्रतिरोध अवस्थाओं के बीच सामग्री को बदलकर डेटा संग्रहीत करता है और बिजली बंद होने पर भी उसे बनाए रखता है। मानक 1T1R डिज़ाइन में, प्रत्येक रेसिस्टिव सेल एक चयन ट्रांजिस्टर से सुसज्जित होता है। हालांकि, जैसे-जैसे सेल का आकार छोटा होता जाता है, इन ट्रांजिस्टरों और उनके वायरिंग द्वारा घेरा गया क्षेत्र घनत्व के लिए एक सीमित कारक बन जाता है। 1TnR दृष्टिकोण एक ट्रांजिस्टर को कई सेल को सेवा देने की अनुमति देता है, जिससे प्रति बिट ट्रांजिस्टर का क्षेत्रफल कम हो जाता है; माउंटटाई 2026 चार सेल के लिए एक ट्रांजिस्टर का उपयोग करता है।

एक सामान्य ट्रांजिस्टर का उपयोग कई समस्याओं को जन्म देता है, जिनमें सेल के बीच करंट लीक पथ, पढ़ने और लिखने के दौरान गड़बड़ी, और विभिन्न परिचालन स्थितियों में विश्वसनीयता की समस्याएं शामिल हैं। MemSilicon का दावा है कि उसने नकारात्मक वोल्टेज कॉन्फ़िगरेशन और ऐरे लीकेज को दबाने के लिए मानकीकृत रीसेट स्कीम को लागू करके, उच्च और निम्न वोल्टेज के साथ पढ़ने और लिखने के रास्तों को अलग करने वाले मल्टी-वोल्टेज वर्डलाइन ड्राइवर्स, गलत लेखन को कम करने के लिए अनुकूली सुरक्षा ध्रुवीकरण, और त्रुटि सुधार के साथ मिलकर पढ़ने की उपज बढ़ाने के लिए काम करने वाली एक अनुकूली ट्रैकिंग रीड सर्किट को लागू करके इन समस्याओं का समाधान किया है।

कंपनी की तकनीक डॉ. ल्यू मिन की टीम के काम पर आधारित है, जो चाइनीज एकेडमी ऑफ साइंसेज के अकादमिक हैं और जिन्होंने 2020 में 28nm 1T2R RRAM डिजाइन पर शोध प्रकाशित किया था। चूंकि सेल पीछे की परतों में बनाए जाते हैं जो मानक CMOS के साथ संगत होते हैं, इसलिए यह विधि गैर-वाष्पशील मेमोरी को लॉजिक चिप्स में एम्बेड करने के लिए डिज़ाइन की गई है।

MemSilicon ऑन-चिप AI उपकरणों और AI पीसी के लिए SoC में मॉडल भार, KV-कैश और मापदंडों के लिए ऑनबोर्ड स्टोरेज पर ध्यान केंद्रित कर रही है, जहां SRAM तेज है लेकिन प्रति बिट अधिक जगह लेता है, और लॉजिक प्रक्रियाओं के आकार में घटने के साथ एकीकृत फ्लैश मेमोरी को शामिल करना अधिक जटिल होता जा रहा है।

लोकप्रिय