MemTensor ने लंबी कहानियों को सहेजने के लिए मेमोरी के साथ MemT 1.0 का ओपन मॉडल जारी किया
और पढ़ें
Pandaily
pandaily.com

MemTensor ने लंबी कहानियों को सहेजने के लिए मेमोरी के साथ MemT 1.0 का ओपन मॉडल जारी किया

चीनी कंपनी MemTensor ने मेमोरी-आधारित मौलिक मॉडलों की एक श्रृंखला प्रस्तुत की और उसे सार्वजनिक रूप से उपलब्ध कराया, जिसे उन्होंने MemT 1.0 नाम दिया। इस श्रृंखला में दो मॉडल शामिल हैं: MemT-1.0-Flash, जिसमें कुल 288 अरब पैरामीटर हैं जिनमें से सक्रिय रूप से 17 अरब का उपयोग किया जाता है, और MemT-1.0-Nano, जिसमें 36 अरब कुल पैरामीटर और 3 अरब सक्रिय पैरामीटर हैं।

इन मॉडलों के वज़न Hugging Face प्लेटफॉर्म पर उपलब्ध हैं, और संबंधित कोड तकनीकी रिपोर्ट के साथ GitHub पर रखा गया है।

ये मॉडल लंबे संवादों से जुड़ी एक सामान्य समस्या को हल करने के लिए विकसित किए गए हैं। अधिकांश मौजूदा सिस्टम पूरी कहानी को संदर्भ विंडो में संग्रहीत करते हैं, जिससे हर नई चाल के साथ धीमापन और इन्फेरेंस की लागत बढ़ जाती है। इसके बजाय, MemT मॉडल के भीतर एक प्रशिक्षित मेमोरी मॉड्यूल को एकीकृत करता है।

प्रत्येक इंटरैक्शन के बाद, मॉडल नई जानकारी को एक निश्चित मेमोरी स्थिति में लिखता है और आवश्यकता पड़ने पर उसे पुनर्प्राप्त करता है, बजाय इसके कि वह हर बार पूरे पिछले रिकॉर्ड को फिर से पढ़े।

MemTensor बताता है कि मॉडलों को 34 अरब टोकन के आधार पर दो चरणों में प्रशिक्षित किया गया था: पहले मॉडल को मेमोरी में जानकारी लिखना सिखाया गया, और फिर उसे इस संग्रहीत जानकारी का उपयोग करके सवालों का जवाब देना सिखाया गया।

प्रदर्शन परिणाम और तुलना

सभी प्रस्तुत प्रदर्शन मेट्रिक्स कंपनी के स्वयं के मूल्यांकन पर आधारित हैं। MemTensor का दावा है कि 128 हजार टोकन की कहानी के साथ एंड-टू-एंड इन्फेरेंस पूर्ण संदर्भ दृष्टिकोण की तुलना में लगभग 1.86 गुना तेज काम करता है, और 256 हजार टोकन के साथ लगभग 3.99 गुना तेज काम करता है।

पहले टोकन के प्रतिक्रिया समय का अनुमान मेमोरी मॉडल के लिए लगभग 104-112 मिलीसेकंड है, जबकि 256K के लिए पूर्ण संदर्भ के लिए यह लगभग 445 मिलीसेकंड है। इसके अलावा, कंपनी बताती है कि 256K की कहानी के साथ प्रति सत्र मेमोरी स्थिति का आकार लगभग 40 एमबी है, जो पूर्ण संदर्भ कैश के लिए आवश्यक 5.06 जीबी से काफी कम है, जो लगभग 130 गुना कमी दर्शाता है।

मेमोरी पर 11 बेंचमार्क पर, MemTensor फ्लैश के लिए 50.6 और नैनो के लिए 47.0 का औसत स्कोर बताता है। ये परिणाम मॉडलों को तुलनात्मक पैरामीट्रिक मेमोरी तरीकों में पहले और दूसरे स्थान पर रखते हैं और औसतन खोज-वर्धित दृष्टिकोणों (retrieval-augmented approaches) के परिणामों के अनुरूप हैं, भले ही क्वेरी के दौरान इतिहास को पुनर्प्राप्त न किया जाए।

कंपनी इस बात पर भी जोर देती है कि मेमोरी जोड़ने से बड़े व्यवधान वाले परीक्षणों में फ्लैश मॉडल की समग्र क्षमताओं में कोई गिरावट नहीं आई है।

डेवलपर्स को लाइसेंसिंग शर्तों पर ध्यान देना चाहिए: रिपॉजिटरी कोड गैर-व्यावसायिक PolyForm लाइसेंस के तहत प्रकाशित किया गया है, जबकि मॉडल वज़न क्रमशः Apache और MIT लाइसेंस के तहत हैं।

टीम दीर्घकालिक स्मृति में सुधार, मेमोरी क्षमता बढ़ाने और मेमोरी अपडेट की लागत कम करने की दिशा में आगे विकास की योजना बना रही है, जिसका दीर्घकालिक लक्ष्य ऐसे एजेंट बनाना है जो अपनी बातचीत के आधार पर सीखते रहें।

समान कहानियाँ

MemSilicon ने 1T4R आर्किटेक्चर पर आधारित RRAM चिप माउंटटाई 2026 प्रस्तुत किया
और पढ़ें
pandaily.com

MemSilicon ने 1T4R आर्किटेक्चर पर आधारित RRAM चिप माउंटटाई 2026 प्रस्तुत किया

मेमोरी क्षेत्र की चीनी स्टार्टअप MemSilicon ने अपने पहले उच्च घनत्व और बड़ी क्षमता वाले RRAM चिप, जिसका नाम माउंटटाई 2026 है, के टेप-आउट प्रक्रिया को पूरा करने की घोषणा की, जो 12 अक्टूबर को किया गया था। कंपनी का दावा है कि यह इस प्रकार का पहला RRAM चिप है जिसमें उच्च घनत्व और बड़ी क्षमता है, हालांकि इस दावे का अभी तक स्वतंत्र रूप से सत्यापन नहीं किया गया है। वर्तमान में, चिप टेप-आउट पूरा होने के बाद सत्यापन चरण से गुजर रहा है।

माउंटटाई 2026 चिप को 28nm CMOS प्रक्रिया का उपयोग करके विकसित किया गया है और इसमें 1T4R सेल संरचना है। यह प्रति चिप 1 Gbit की क्षमता प्रदान करता है, 30 Mbit प्रति वर्ग मिलीमीटर का घनत्व प्राप्त करता है, और एक्सेस विलंब 20 नैनोसेकंड से कम है। इसके अलावा, चिप में सीधे क्रिस्टल पर हार्डवेयर त्रुटि सुधार शामिल है।

RRAM, या रेजिस्टर्सिव रैम, प्रतिरोध अवस्थाओं के बीच सामग्री को बदलकर डेटा संग्रहीत करता है और बिजली बंद होने पर भी उसे बनाए रखता है। मानक 1T1R डिज़ाइन में, प्रत्येक रेसिस्टिव सेल एक चयन ट्रांजिस्टर से सुसज्जित होता है। हालांकि, जैसे-जैसे सेल का आकार छोटा होता जाता है, इन ट्रांजिस्टरों और उनके वायरिंग द्वारा घेरा गया क्षेत्र घनत्व के लिए एक सीमित कारक बन जाता है। 1TnR दृष्टिकोण एक ट्रांजिस्टर को कई सेल को सेवा देने की अनुमति देता है, जिससे प्रति बिट ट्रांजिस्टर का क्षेत्रफल कम हो जाता है; माउंटटाई 2026 चार सेल के लिए एक ट्रांजिस्टर का उपयोग करता है।

एक सामान्य ट्रांजिस्टर का उपयोग कई समस्याओं को जन्म देता है, जिनमें सेल के बीच करंट लीक पथ, पढ़ने और लिखने के दौरान गड़बड़ी, और विभिन्न परिचालन स्थितियों में विश्वसनीयता की समस्याएं शामिल हैं। MemSilicon का दावा है कि उसने नकारात्मक वोल्टेज कॉन्फ़िगरेशन और ऐरे लीकेज को दबाने के लिए मानकीकृत रीसेट स्कीम को लागू करके, उच्च और निम्न वोल्टेज के साथ पढ़ने और लिखने के रास्तों को अलग करने वाले मल्टी-वोल्टेज वर्डलाइन ड्राइवर्स, गलत लेखन को कम करने के लिए अनुकूली सुरक्षा ध्रुवीकरण, और त्रुटि सुधार के साथ मिलकर पढ़ने की उपज बढ़ाने के लिए काम करने वाली एक अनुकूली ट्रैकिंग रीड सर्किट को लागू करके इन समस्याओं का समाधान किया है।

कंपनी की तकनीक डॉ. ल्यू मिन की टीम के काम पर आधारित है, जो चाइनीज एकेडमी ऑफ साइंसेज के अकादमिक हैं और जिन्होंने 2020 में 28nm 1T2R RRAM डिजाइन पर शोध प्रकाशित किया था। चूंकि सेल पीछे की परतों में बनाए जाते हैं जो मानक CMOS के साथ संगत होते हैं, इसलिए यह विधि गैर-वाष्पशील मेमोरी को लॉजिक चिप्स में एम्बेड करने के लिए डिज़ाइन की गई है।

MemSilicon ऑन-चिप AI उपकरणों और AI पीसी के लिए SoC में मॉडल भार, KV-कैश और मापदंडों के लिए ऑनबोर्ड स्टोरेज पर ध्यान केंद्रित कर रही है, जहां SRAM तेज है लेकिन प्रति बिट अधिक जगह लेता है, और लॉजिक प्रक्रियाओं के आकार में घटने के साथ एकीकृत फ्लैश मेमोरी को शामिल करना अधिक जटिल होता जा रहा है।

कंप्यूटर अपग्रेड के लिए अमेज़ॅन पर डीडीआर5 रैम मेमोरी बिक्री पर
और पढ़ें
olhardigital.com.br

कंप्यूटर अपग्रेड के लिए अमेज़ॅन पर डीडीआर5 रैम मेमोरी बिक्री पर

यदि आपके कंप्यूटर या लैपटॉप में अधिक मांग वाले सॉफ़्टवेयर चलाते समय धीमापन आता है, तो रैम मेमोरी बढ़ाने का समय हो सकता है। अमेज़ॅन पर छूट पर तीन डीडीआर5 रैम मेमोरी विकल्पों का चयन किया गया है, जो सभी बिना किसी कठिनाई के अपग्रेड करना चाहने वालों के लिए अच्छी गति और संगतता प्रदान करते हैं।

डेस्कटॉप के लिए विकल्प: MACROVIP की DDR5 रैम 8GB 5600MHz

यह विकल्प उन लोगों के लिए आदर्श है जो उच्च स्तर के प्रदर्शन को बनाए रखते हुए डेस्कटॉप की मेमोरी का विस्तार करना चाहते हैं। यह मॉड्यूल, जो DDR5 मानक का पालन करता है और 5600MHz पर संचालित होता है, पिछली पीढ़ियों की तुलना में बेहतर डेटा ट्रांसफर दर प्रदान करता है, जिससे यह दैनिक कार्यों और मल्टीटास्किंग दोनों के लिए एक मजबूत विकल्प बन जाता है।

लैपटॉप के लिए, Adata XPG की एक SODIMM प्रारूप वाली मेमोरी उपलब्ध है, जो केवल 1.1V के कम वोल्टेज पर काम करती है। इसके परिणामस्वरूप ऊर्जा की खपत अधिक कुशल होती है, जो उन लोगों के लिए फायदेमंद है जो बैटरी लाइफ से समझौता किए बिना प्रदर्शन को प्राथमिकता देते हैं। CL46 विलंबता और 5600MHz आवृत्ति के साथ, यह जटिल अनुप्रयोगों में त्वरित प्रतिक्रिया सुनिश्चित करती है।

Adata की DDR5 लाइन का डेस्कटॉप संस्करण उच्च परिचालन आवृत्ति को ऊर्जा दक्षता के साथ जोड़ता है। CL46 और नवीनतम प्लेटफार्मों के साथ संगतता होने के कारण, यह उन लोगों के लिए एक सुरक्षित विकल्प प्रस्तुत करता है जो आधुनिक और उच्च गुणवत्ता वाले घटकों के साथ पीसी बना रहे हैं या अपडेट कर रहे हैं।

यह ध्यान रखना महत्वपूर्ण है कि ये ऑफ़र किसी भी समय समाप्त हो सकते हैं, इसलिए सलाह दी जाती है कि जब तक वे उपलब्ध हों तब तक प्रत्येक उत्पाद की जाँच करें। उपयोगकर्ताओं को लिंक पर जाना चाहिए, विकल्पों की तुलना करनी चाहिए और उस विकल्प का चयन करना चाहिए जो उनकी वर्तमान कॉन्फ़िगरेशन के लिए सबसे उपयुक्त हो, क्योंकि सिस्टम इस अपग्रेड से लाभान्वित होगा।

लिनक्स के लिए कंप्रेस्ड रैम (CRAM) नामक नई तकनीक रैम के प्रदर्शन को काफी बढ़ा सकती है
और पढ़ें
tecnoblog.net

लिनक्स के लिए कंप्रेस्ड रैम (CRAM) नामक नई तकनीक रैम के प्रदर्शन को काफी बढ़ा सकती है

इंजीनियर ग्रिगोरी प्रिस् द्वारा प्रस्तावित कंप्रेस्ड रैम (CRAM) परियोजना लिनक्स ऑपरेटिंग सिस्टम में मेमोरी प्रबंधन के अधिक कुशल समाधान का प्रतिनिधित्व करती है। मौजूदा ZRAM और Zswap जैसी तकनीकों के विपरीत, CRAM संपीड़ित क्षेत्र को मूल रैम के रूप में मानता है, जिससे पारंपरिक या वर्चुअल स्वैप का उपयोग करने से बचा जा सकता है और डेटा एक्सेस को अनुकूलित किया जा सकता है।

लिनक्स प्लंबर्स कॉन्फ्रेंस 2026 में प्रस्तुत प्रस्तुति में प्रदर्शित किया गया कि CRAM ने ZRAM के प्रदर्शन से 452 गुना अधिक प्रदर्शन हासिल किया। मेटा के इंजीनियर ग्रिगोरी प्रिस् की टीम ने एक ऐसी अवधारणा प्रस्तुत की जो बड़ी मात्रा में डेटा के साथ काम करते समय लिनक्स कर्नेल को और अधिक कुशल बना सकती है, खासकर मेमोरी की कमी की स्थिति में।

जैसा कि नाम से पता चलता है, CRAM सीधे रैम में डेटा संपीड़न के एक नए दृष्टिकोण पर आधारित है। हालांकि इस तरह की विधियाँ मौजूद हैं, लिनक्स में दो मानक अलग किए गए हैं: ZRAM और Zswap। उनकी कार्यप्रणाली को समझना CRAM के लाभों का आकलन करने में मदद करता है।

ZRAM एक प्रकार का वर्चुअल डेटा ब्लॉक बनाता है, जो रैम के भीतर ही हार्ड ड्राइव या SSD का अनुकरण करता है। जब मेमोरी भरनी शुरू होती है, तो निष्क्रिय या कम उपयोग किए जाने वाले मेमोरी पेज संपीड़ित होते हैं और इस ब्लॉक में चले जाते हैं, जिससे रैम की खपत कम हो जाती है। यह ध्यान रखना महत्वपूर्ण है कि ZRAM एक स्वैपिंग तंत्र के रूप में कार्य करता है, जो रैम के भीतर ही रैम के विस्तार के रूप में डिस्क स्थान का उपयोग करता है।

Zswap सिद्धांत में समान है, लेकिन अधिक उन्नत है। यह ऑपरेटिंग सिस्टम द्वारा मेमोरी पेज को वास्तविक स्वैप (HDD या SSD पर) भेजने के प्रयासों को रोकता है। इसके बजाय, इन पेजों के डेटा को संपीड़ित किया जाता है और रैम के विशिष्ट क्षेत्रों में रखा जाता है। केवल तभी जब मेमोरी लगभग पूरी तरह से लोड हो जाती है, तो पेजों को वास्तविक स्वैप में भेजा जाता है।

हालांकि ZRAM और Zswap शानदार समाधान हैं, वे प्रदर्शन की संभावित समस्या का सामना करते हैं। स्वैप्स (चाहे वास्तविक हों या वर्चुअल) के माध्यम से डेटा को संसाधित करने के लिए संपीड़न और डीकंप्रेसन की गति सीधे रैम के साथ किए गए संचालन की तुलना में काफी धीमी होती है।

यहीं पर CRAM एक समाधान के रूप में सामने आता है। हालांकि पहली नज़र में CRAM ZRAM जैसा दिखता है, मुख्य अंतर यह है कि पहले मामले में, संपीड़ित डेटा को संग्रहीत करने वाला ब्लॉक वास्तविक रैम के रूप में संसाधित होता है, न कि पारंपरिक स्वैप के रूप में। लिनक्स इस स्थान के साथ ऐसे व्यवहार करना शुरू कर देता है जैसे कि यह अतिरिक्त रैम ब्लॉक है, संपीड़ित डेटा वाले क्षेत्र के साथ काम करने के लिए कर्नेल के देशी मेमोरी प्रबंधन तंत्र को सक्रिय करता है।

ये अंतर्निहित कार्य कुछ परिस्थितियों में पेज फॉल्ट (page fault) त्रुटि के बिना संपीड़ित डेटा तक पहुंचने की अनुमति देते हैं - एक ऐसी स्थिति जहां सिस्टम मेमोरी पेज तक पहुंचने का प्रयास करता है जो अनुपलब्ध या अनमैप्ड है, जिसके लिए कर्नेल के हस्तक्षेप की आवश्यकता होती है। वे पृष्ठों के बीच माइग्रेशन भी सुनिश्चित करते हैं, जिससे इंटरप्ट्स का जोखिम कम होता है, जो प्रदर्शन पर सकारात्मक प्रभाव डालता है।

प्रदर्शन वास्तव में कितना बेहतर होता है? लिनक्स प्लंबर्स कॉन्फ्रेंस (LPC) 2026 में, ग्रिगोरी प्रिस् ने समझाया कि एक विशिष्ट बेंचमार्क में CRAM ने ZRAM के 1.1 मिलियन ऑपरेशन प्रति सेकंड की तुलना में 489 मिलियन ऑपरेशन प्रति सेकंड निष्पादित करने की अनुमति दी। इसका मतलब है कि इस परीक्षण में CRAM क्लासिक ZRAM की तुलना में 452 गुना तेज था, और यह लिनक्स में मेमोरी प्रबंधन की पूरी तरह से नई बुनियादी ढांचे के निर्माण की आवश्यकता के बिना प्राप्त किया गया था।

हालांकि प्रदर्शन का स्तर एप्लिकेशन के आधार पर भिन्न हो सकता है, प्रवृत्ति इंगित करती है कि CRAM हमेशा बेहतर परिणाम देगा। परियोजना आशाजनक है, हालांकि अत्यधिक उत्साह को संयमित करना आवश्यक है क्योंकि CRAM का विकास अभी तक पूरा नहीं हुआ है, और वर्तमान में आधिकारिक रिलीज की कोई निर्धारित तिथि नहीं है। यह भी ध्यान रखना चाहिए कि ऐसा समाधान संभवतः सर्वर पर चलने वाले पेशेवर अनुप्रयोगों पर केंद्रित होगा, हालांकि यह घरेलू उपयोग के लिए भी उपयोगी हो सकता है।

लोकप्रिय