NaiveAI Naive-N0.5-Flash modelini chiqardi: 309B MoE, 1M kontekst bilan MIT litsenziyasi ostida

Xiaomi kompaniyasining LLM-Core tadqiqotchilari arXivʼda (2609.26368) HySparse2 arxitekturasini maqolada eʼlon qilishdi. Ushbu texnologiya ikki darajali kalit-qiymatlar (KV sharing) mexanizmi bilan gigrid tarqalgan diqqat (sparse attention) boʻlib, u uzun gorizontlarni qayta ishlashni talab qiladigan MiMo-V3 sinfidagi agent vazifalari uchun ishlab chiqilgan.

Ushbu ishlab chiqishning rasmiy brendlashida Xiaomi, MiMo va HySparse2 kiritilgan. Ushbu nashr ochiq ogʻirlikli MiMo-V2.6 ning avvalgi koʻrib chiqilishlaridan farqli oʻlaroq, tadqiqot arxitekturasi va eʼlon qilingan samaradorlik koʻrsatkichlariga eʼtibor qaratadi.

HySparse2 modelning asosiy qismini YOCO uslubidagi oʻz-dekoder va kross-dekoderga ajratadi. Tashqi darajada KV Bridging mexanizmi faqat toʻliq diqqatli qatlamlarni bogʻlaydi, shu bilan birga kross-dekoderning KV keshlari oʻz-dekoderning yashirin holatlaridan proyeksiyalangan. Ichki darajada takomillashtirilgan KV qayta foydalanish har bir gigrid blok ichida HySparse uslubidagi umumiy foydalanishni saqlab qoladi, ammo u bloklar darajasidan tokenlar darajasiga oʻtadi. Bundan tashqari, alohida silliq oynacha (sliding window) yoʻnalishi oʻrniga, tarqalgan tanlovlarga yaqinda joylashgan mahalliy oynacha majburan kiritiladi.

Bu oʻzgarishlar tufayli, oldindan qayta ishlash (Prefill) bosqichi kross-dekoder qatlamlarini kesh qurish paytida chetlab oʻtib, oʻz-dekoderdan soʻng yakunlanishi mumkin. Bu koʻp bosqichli agentlarda, kirish tokenlari sezilarli darajada vositalar kuzatuvlaridan iborat boʻlgan hollarda ayniqsa foydalidir.

80B-A3B hajmdagi, bir xil maʼlumotlar va grafiklar ustida oʻqitilgan MoE modellaridan foydalanilganda, maqola HySparse2 ning ozgina qoʻshimcha oʻqitishdan soʻng MRCR-v2 va RULER-v2 koʻrsatkichlarini mos ravishda 11,30 va 19,81 foiz punktiga oshirishini, shu bilan birga 256 ming token kontekstida AgentPPL va LongPPL ning pastroq qiymatlarini saqlab qolishini bildiradi. 1 million token bilan ishlayotganda, tahlil HySparse ga nisbatan 2,92× va Hybrid SWA ga nisbatan 5,02× oldindan qayta ishlashda FLOPs ning pasayishini koʻrsatadi. Shuningdek, FP8 KV kesh hajmi tegishli asosiy modellarga nisbatan 6,72 GB va 12,09 GB dan taxminan 2,69 GB gacha kamayishi qayd etiladi.

Ablatsiya tahlili shuni koʻrsatadiki, tokenlar darajasidagi tanlov belgilangan diqqat byudjeti bilan kuchliroq qidiruvga yordam beradi. 290B-A8B gacha kengaytirilganda, KV Bridging mexanizmi taqqoslanadigan sifatni saqlab qoladi, shu bilan birga oldindan qayta ishlashda erta chiqish imkoniyatini taʼminlaydi. Xitoy LLM tizimlari tadqiqotlarini oʻrganuvchi mutaxassislar uchun HySparse2 MiMo-V3 ning samaradorligi haqidagi bayonotlarning orqasidagi arxitektura signali boʻlib, ochiq ogʻirlikli yangi chiqarish emas.

Inspur Information kompaniyasi MetaBrain SD200 Ultra sunʼiy intellekt supertugunini AICC2026 sunʼiy intellekt hisoblash konferensiyasida taqdim etdi. Ushbu tugun trilyonli parametrlar va agentlar bilan bogʻliq vazifalarni qayta ishlash uchun imkoniyatlar sinfi tizimi sifatida joylashtirilgan. Tizimning rasmiy inglizcha nomi — Inspur / MetaBrain.

Kompaniya va axborot agentliklari maʼlumotlariga koʻra, tugun 128 ta mahalliy AI chipini birlashtiradi, 8 TB unifikatsiyalangan tezlatuvchi xotirasiga va 64 TB host xotirasiga kirish imkonini beradi. U Moonshot AI tomonidan ishlab chiqilgan va 2,8 trillion parametrga ega boʻlgan Kimi K3 modelini bitta mashinada, token generatsiya kechikishi 5,85 millisekunddan kam boʻlgan holda ishga tushirishga qodir, bu Inspur baholariga koʻra, bir foydalanuvchi uchun sekundiga taxminan 170 tokenni tashkil etadi.

Tugunning arxitektura xususiyatlariga 0,69 mikrosekund kechikish bilan eʼlon qilingan, semantika ga sezgir xotira bilan tabiiy aloqani taʼminlovchi 3D Hyper Mesh fabrikasi kiradi. Shuningdek, qisqa harakatlanuvchi mis interkonnektlar va tezlatuvchilar uzoq tugunlarning xotirasiga bevosita murojaat qilish imkonini beradigan simmetrik xotira ishlatiladi. Inspur operatsiya AllReduce bajarilish vaqtining avvalgi yechimlarga nisbatan taxminan 3,5 marta qisqartirilganini daʼvo qiladi.

Bundan tashqari, Kimi K3 modelining KDA, gated MLA va MoE bosqichlari uchun oʻrnatilgan «superoperatorlar» operatorlar sonini taxminan oʻn marta kamaytiradi, shu bilan birga inferens samaradorligini uch barabardan ortiq oshiradi. Bu koʻrsatkichlar yetkazib beruvchining bayonotlaridir. Materiallar shuningdek, bitta tugunda 10 trillion gacha boʻlgan modellarni qoʻllab-quvvatlash potentsialini koʻrsatadi.

Boshqa mahsulot, MetaBrain HC2000, kelishilgan SLA cheklovlariga rioya qilinganda, sarmoyaga tokenlar oqimining oʻn barobar oshirilganligi eʼlon qilingan, sigʻim sinfidagi inferens uchun moʻljallangan bir nechta tezlatuvchilarga ega stansiyadir. Turli nashrlar tezlatuvchilarni faqat mahalliy yoki mahalliy AI chiplari deb tasvirlasa ham, ushbu sharh uchun tahlil qilingan asosiy manbalardan hech biri SD200 Ultra ichidagi kremniy ishlab chiqaruvchisini yoki SKU ni nomlamaydi. Shu sababli, ushbu maqola tugunni Ascend, Cambricon yoki boshqa aniq yetkazib beruvchiga bogʻlamaydi.

Shanghai AI Laboratory oʻzining ochiq vaznli ilmiy yoʻnaltirilgan multimodal asosiy modeli Intern-S2-397B ni Hugging Face va ModelScope platformalarida taqdim etdi. Eʼlon 2026-yil 13-sentabrdagi Putsyan innovatsiyalar forumida va 21-sentabrdagi laboratoriya brifingida taqdimotdan soʻng amalga oshirildi.

Laboratoriyanining rasmiy inglizcha nomi — Shanghai AI Laboratory / Intern-S2. Ushbu chiqarish laboratoriyaning yaqinda nashr etilgan Atria Dawn, Intern Physical World Model W0 va NCP-ArchPreview kabi nashrlaridan farq qiladi, chunki u yangi agent yoki dunyo modeli eʼlon qilish emas, balki arxitektura boʻlgan ilmiy modelning vaznlarini chiqarishdir.

Intern-S2 modeli uzoq muddatli ilmiy vazifalar va agent tsikllarini bajarish uchun moʻljallangan. Laboratoriya materiallari ularning ulashuvchan Xotira Dekoderi (Memory Decoder) mavjudligini taʼkidlaydi, bu esa butun asosiy modelni qayta oʻqitish zaruriyati boʻlmagan holda soha modullariga qoʻshish imkonini beradi. Masalan, biologik tajribalarda Intern-MemDec-4B dan foydalanish Biologik Koʻrsatmalar boʻyicha oʻrtacha koʻrsatkichlarni taxminan 56.92 dan 60.32 gacha oshirdi, shu bilan birga umumiy natijalarni asosiy model darajasida saqlab qoldi.

Hugging Face da Intern-S2-397B xaritasi taxminan 403 milliard parametrga egaligi koʻrsatilgan. Model toza ilmiy adabiyot sahifalari ustida vizual oldindan oʻqitilgan, 20 dan ortiq sohada koʻp domenli ilmiy kuchaytirish orqali oʻqitilgan va izolyatsiya qilingan muhitlarda uzoq muddatli agent kuchaytirish orqali oʻqitilgan. Ishlash uchun LMDeploy, vLLM va SGLang orqali xizmat koʻrsatish yoʻllari mavjud va Intern ning rasmiy API nuqtasi hujjatlashtirilgan.

Shanghai AI Laboratory Intern-S2 ning Huawei Ascend hisoblash steki bilan hisoblash, aloqa va xotira jihatlariga chuqur optimallashtirilganini maʼlum qilmoqda. Bundan tashqari, model laboratoriyaning Intern DuanYan ilmiy kashfiyotlar platformasiga integratsiya qilinadi, bu hayot fanlari, materiallar, yarimoʻtkazchilar va bogʻliq fanlar sohalarini qamrab oladi. Yetkazib beruvchi bayonotlariga koʻra, Intern-S2 ochiq kodli modellari orasida bilimlar, kod va agent toʻplamlari boʻyicha birinchi oʻrinni egallaydi va biologiya hamda materialshunoslik vazifalarida kuchli natijalar koʻrsatadi; ammo bu raqamlar hali mustaqil sinovlardan oldingi laboratoriya maʼlumotlaridir.

Tadqiqot guruhlari uchun yakuniy natija Intern-S2-397B yuklab olish vaznlari, Xotira Dekoderi boʻyicha hujjatlar va Ascend bilan hamkorlik haqidagi izoh bilan taʼminlanishi hisoblanadi. Shunday qilib, bu shunchaki yopiq APIga asoslangan eʼlon emas, balki jamoatchilik tomonidan foydalanish uchun yangilangan ochiq multimodal asosiy modeldir.