MemTensor kompaniyasi uzoq hikoyalarni saqlash uchun xotira bilan MemT 1.0 ochiq modelini chiqardi
Batafsil
Pandaily
pandaily.com

MemTensor kompaniyasi uzoq hikoyalarni saqlash uchun xotira bilan MemT 1.0 ochiq modelini chiqardi

Xitoydagi MemTensor kompaniyasi oʻzining xotiraga yoʻnaltirilgan fundamental modellar seriyasini eʼlon qildi va uni jamoatchilikka ochiq qildi, bu MemT 1.0 deb nomlandi. Ushbu seriya ikkita modelni oʻz ichiga oladi: umumiy parametrlar soni 288 milliard boʻlgan va undan 17 milliard faol qoʻllaniladigan MemT-1.0-Flash hamda 36 milliard umumiy parametr va 3 milliard faolga ega MemT-1.0-Nano.

Bu modellar vaznlari Hugging Face platformasida mavjud, tegishli kod esa texnik hisobot bilan birga GitHubʼda joylashtirilgan.

Modellar uzoq suhbatlar bilan bogʻliq keng tarqalgan muammoni hal qilish uchun ishlab chiqilgan. Mavjud tizimlarning aksariyati butun tarixni kontekst oynasida saqlaydi, bu har bir yangi qadam bilan sekinlashish va inferens xarajatlarini oshirishga olib keladi. Buning oʻrniga, MemT modelning oʻziga oʻrganiladigan xotira modulini integratsiya qiladi.

Har bir oʻzaro aloqadan soʻng, model yangi maʼlumotni belgilangan xotira holatiga yozadi va zarur boʻlganda uni chaqiradi, har safar butun oldingi yozuvni qayta oʻqimasdan.

MemTensor kompaniyasi modellar oʻqitilishi 34 milliard token asosida ikki bosqichda oʻtganini maʼlum qiladi: avvalo, model maʼlumotni xotiraga yozishni oʻrgandi, keyin esa ushbu saqlangan maʼlumotdan foydalanib savollarga javob berishni oʻrgandi.

Ishlash natijalari va taqqoslash

Taʼkidlangan barcha ishlash koʻrsatkichlari kompaniyaning oʻz bahosiga asoslangan. MemTensor taʼkidlaydiki, toʻliq kontekst yondashuvi bilan 128 ming tokenli tarixda yakka inferens taxminan 1,86 marta tezroq ishlaydi va 256 ming tokenlarda taxminan 3,99 marta tezroq ishlaydi.

Birinchi token javob berish vaqti xotirali model uchun taxminan 104–112 millisekund, 256K uchun toʻliq kontekstda esa taxminan 445 millisekund deb baholanadi. Bundan tashqari, kompaniya 256K tarixda sessiya davomida xotira holati hajmi taxminan 40 MB ni tashkil etishini taʼkidlaydi, bu toʻliq kontekst keshiga talab qilinadigan 5,06 GB dan sezilarli darajada kamroq, yaʼni taxminan 130 barobar kamayishdir.

MemTensor 11 ta xotira benchmarklarida Flash uchun 50,6 va Nano uchun 47,0 oʻrtacha natijalarini eʼlon qiladi. Bu natijalar modellarini taqqoslanayotgan parametrik xotira usullari orasida birinchi va ikkinchi oʻringa qoʻyadi va soʻrov paytida tarixni chiqarib olishsiz ham, oʻrtacha ravishda qidiruv orqali kengaytirilgan yondashuvlarning natijalariga mos keladi.

Kompaniya shuningdek, xotirani qoʻshish Flash modelining umumiy imkoniyatlarini katta miqdordagi chalgʻituvchi omillar mavjud test sharoitida pasaytirmaganligini taʼkidlaydi.

Dasturchilar litsenziyalash shartlariga eʼtibor berishlari kerak: repozitoriyadagi kod nokommertsiya PolyForm litsenziyasi ostida joylashtirilgan, ammo modellar vaznlari mos ravishda Apache va MIT litsenziyalariga ega.

Jamoa uzoq muddatli xotirani yaxshilash, xotira sigʻimini oshirish va xotirani yangilash xarajatlarini kamaytirish yoʻnalishida yanada rivojlanishni rejalashtirmoqda, uzoq muddatli maqsad sifatida oʻzaro taʼsiri asosida doimiy oʻrganadigan agentlarni yaratishni nazarda tutmoqda.

Oʻxshash hikoyalar

MemSilicon RRAM asosidagi 1T4R arxitekturalidagi MountTai 2026 chipini taqdim etdi
Batafsil
pandaily.com

MemSilicon RRAM asosidagi 1T4R arxitekturalidagi MountTai 2026 chipini taqdim etdi

Xotira sohasidagi Xitoy startapi MemSilicon oʻzining birinchi yuqori zichlik va katta sigʻimli RRAM chipi boʻlgan MountTai 2026 ning tape-out jarayonini yakunlaganini eʼlon qildi, bu 12-oktabrda amalga oshirildi. Kompaniya bu turdagi birinchi RRAM chipli qurilma ekanligini, u yuqori zichlik va katta sigʻimga ega ekanligini daʼvo qilmoqda, ammo bu bayonot hali mustaqil tekshirilmagan. Hozirda chip tape-out tugagandan soʻng validatsiya bosqichidan oʻtmoqda.

MountTai 2026 chipli qurilma 28 nm CMOS-jarayonidan foydalanib ishlab chiqilgan va 1T4R yacheya tuzilishiga ega. U chipda 1 Gbit sigʻimni taʼminlaydi, kvadrat millimetrga 30 Mbit zichlikka erishadi va kirish kechikishi 20 nanosekunddan kam. Bundan tashqari, chip kristal darajasida apparatiy xatolarni tuzatishni oʻz ichiga oladi.

RRAM, yoki tasodifiy kirishli rezistiv xotira, qarshilik holatlari orasidagi materialni oʻzgartirish orqali maʼlumotlarni saqlaydi va quvvat oʻchirilganda ham uni ushlab turadi. Standart 1T1R konstruksiyasida har bir rezistiv yacheya oʻzining selektor tranzistoriga ega. Biroq, yacheyalar hajmi kichrayib borishi bilan, bu tranzistorlar va ularning simlashlari egallaydigan maydon zichlik uchun cheklovchi omilga aylanadi. 1TnR yondashuvi bitta tranzistordan bir nechta yacheyalarga xizmat qilish imkonini beradi, shu tariqa bitga tranzistor maydonini kamaytiradi; MountTai 2026 bir tranzistordan toʻrtta yacheya uchun foydalanadi.

Umumiy tranzistordan foydalanish bir qator muammolarni keltirib chiqaradi, jumladan, yacheyalar orasidagi tok sizib chiqish yoʻllari, oʻqish va yozish paytida buzilishlar, shuningdek, turli ish sharoitlaridagi ishonchlilik muammolari. MemSilicon bu muammolarni sxemaviy darajada hal qilganini eʼlon qiladi, massiv sizib chiqishini bostirish uchun manfiy kuchlanishli konstruksiya va birlashtirilgan qayta tiklash sxemasini joriy etish, yuqori va past kuchlanishdagi oʻqish va yozish yoʻllarini ajratadigan koʻp kuchlanishli soʻz liniyasi drayverlari, notoʻgʻri yozishlarni kamaytirish uchun moslashuvchan himoya polarizatsiyasi va gigabit sigʻimda oʻqish samaradorligini oshirish uchun xato tuzatish bilan birgalikda ishlaydigan moslashuvchan skanerlash sxemasini kiritish orqali.

Kompaniyaning texnologiyasi Xitoy Fanlar akademiyasi akademigi Lyu Min jamoasining ishlari asosida qurilgan boʻlib, u 2020 yilda 28 nm 1T2R RRAM dizayni boʻyicha tadqiqotlarni nashr etgan. Yacheyalar orqa qatlamlarda yaratilishi standart CMOS bilan mos kelishi sababli, bu usul energiya yetkazib berilmaydigan xotirani mantiqiy chiplarga integratsiya qilish uchun moʻljallangan.

MemSilicon model vaznlari, KV-kesh va SoCʼdagi parametrlar uchun on-board xotiraga, joylashtirilgan AI qurilmalariga va AI li kompyuterlarga qaratilgan, chunki SRAM tez, ammo bitga koʻp joy egallaydi, va mantiqiy jarayonlar kichrayib borishi bilan ichki flash-xotirani integratsiya qilish tobora murakkablashib bormoqda.

Linux uchun yangi Compressed RAM (CRAM) texnologiyasi operativ xotira samaradorligini sezilarli darajada oshirishni vaʼda qilmoqda
Batafsil
tecnoblog.net

Linux uchun yangi Compressed RAM (CRAM) texnologiyasi operativ xotira samaradorligini sezilarli darajada oshirishni vaʼda qilmoqda

Ingener Grigori Pris tomonidan taklif etilgan Compressed RAM (CRAM) loyihasi Linux operatsion tizimida xotirani yanada samarali boshqarish uchun yechimdir. Mavjud ZRAM va Zswap texnologiyalaridan farqli oʻlaroq, CRAM siqilgan hududni mahalliy operativ xotira sifatida koʻrib chiqadi, bu anʼanaviy yoki virtual swapdan foydalanishni oldini oladi va maʼlumotlarga kirishni optimallashtiradi.

Linux Plumbers Conference 2026 konferensiyasida taqdimotda CRAM ning ZRAM koʻrsatkichlaridan 452 baravar yuqori samaradorlikka erishgani namoyish etildi. Meta kompaniyasining ingineri Grigori Pris jamoasi katta hajmdagi maʼlumotlar bilan ishlashda, ayniqsa xotira tanqisligi sharoitida Linux yadrosini yanada samarali qilishga qodir boʻlgan konsepsiyani taqdim etdi.

Nomi shuni anglatadiki, CRAM toʻgʻridan-toʻgʻri operativ xotirada maʼlumotlarni siqishga yoʻnaltirilgan yangi yondashuvga asoslangan. Shunga oʻxshash usullar mavjud boʻlsa-da, Linuxda ikkita standart ajralib turadi: ZRAM va Zswap. Ularning tamoyillarini tushunish CRAM ning afzalliklarini baholashga yordam beradi.

ZRAM oʻzining virtual maʼlumotlar blokini yaratadi, bu operativ xotira ichida qattiq disk yoki SSD ni taqlid qiladi. Xotira toʻlib ketishni boshlaganda, faol boʻlmagan yoki kam ishlatiladigan xotira sahifalari siqiladi va bu blokga koʻchiriladi, shu tariqa RAM sarfini kamaytiradi. Muhim jihati shundaki, ZRAM swap mexanizmi sifatida ishlaydi, disk maydonining bir qismini RAM kengaytmasi sifatida ishlatadi, ammo buni RAM ichida amalga oshiradi.

Zswap tamoyindan oʻxshaydi, ammo yanada ilgʻorroq. U operatsion tizimning xotira sahifalarini haqiqiy swapga (HDD yoki SSD ga) yuborish urinishlarini ushlab oladi. Buning oʻrniga, ushbu sahifalar maʼlumotlari siqiladi va operativ xotiraning maʼlum joylariga joylashtiriladi. Faqatgina xotira toʻliq yuklanganiga yaqinlashganda, sahifalar haqiqiy swapga yuboriladi.

ZRAM va Zswap ajoyib yechimlar boʻlsa-da, ular potentsial samaradorlik muammosiga duch keladi. Haqiqiy yoki virtual swap orqali qayta ishlash uchun maʼlumotlarni siqish va ochish dinamikasi, toʻgʻridan-toʻgʻri operativ xotira bilan bajariladigan operatsiyalarga qaraganda sezilarli darajada sekinroqdir.

Aynan shu yerda CRAM yechim sifatida namoyon boʻladi. Birinchi qarashda CRAM ZRAM ga oʻxshasa-da, asosiy farq shundaki, siqilgan maʼlumotlarni saqlaydigan blok anʼanaviy swap sifatida emas, balki haqiqiy operativ xotira sifatida qayta ishlanadi. Linux bu maydon bilan qoʻshimcha RAM bloki kabi ishlashni boshlaydi, siqilgan maʼlumotlarni oʻz ichiga olgan hudud bilan ishlash uchun yadroning mahalliy xotira boshqaruv mexanizmlarini faollashtiradi.

Bu ichki funksiyalar maʼlum holatlarda siqilgan maʼlumotlarga sahifa xatosi (page fault) yuzaga kelmasdan kirish imkonini beradi — bu tizim xotira sahifasiga murojaat qilishga harakat qilganda, u mavjud boʻlmasa yoki koʻrsatilmagan boʻlsa, yadroning aralashuvini talab qiladigan vaziyatdir. Ular shuningdek, sahifalar orasidagi migratsiyani taʼminlaydi, bu esa toʻxtashlar xavfini kamaytiradi va boshqa narsalar bilan ijobiy taʼsir koʻrsatadi.

Samaradorlik aniq qanday yaxshilanadi? LPC 2026 tadbirida Grigori Pris aniq benchmarkda CRAM ning ZRAM ning sekundiga 1,1 million operatsiya unga qarshi sekundiga 489 million operatsiya bajarishga imkon berganini tushuntirdi. Bu shuni anglatadiki, ushbu testda CRAM klassik ZRAM dan 452 baravar tezroq boʻldi va bu Linuxda butunlay yangi xotira boshqaruv infratuzilmasini yaratish zaruriyati boʻlmagan holda amalga oshirildi.

Garchi samaradorlik darajasi ilovadan ilovaga farq qilsa ham, tendensiya CRAM doimo eng yaxshi natijalarni koʻrsatishini koʻrsatadi. Loyiha umidlantiruvchi, ammo haddan tashqari hayajonlanishni cheklash kerak, chunki CRAM ning ishlab chiqilishi hali yakunlanmagan va hozircha rasmiy chiqarilish sanasi rejalashtirilmagan. Shuningdek, bunday yechim ehtimol serverlarda ishlaydigan professional ilovalarga qaratilgan boʻlishi mumkin, garchi u uy foydalanishi uchun ham foydali boʻlishi mumkin boʻlsa-da.

Mashhur