Xiaomi RL stack yordamida MiMo-V2.6 Pro va MiMo-V2.6 Flash modellar uchun vaznlar va resurslarni ochdi
Batafsil
Pandaily
pandaily.com

Xiaomi RL stack yordamida MiMo-V2.6 Pro va MiMo-V2.6 Flash modellar uchun vaznlar va resurslarni ochdi

Xiaomi kompaniyasi oʻzining MiMo-V2.6 seriyasi uchun kuchaytirish orqali oʻrganish (reinforcement-learning) uchun vaznlar, texnik hujjatlar va resurslarni ommaga oshirdi. Xiaomi tomonidan sentyabrning 22-kun sanaydigan inglizcha xabarlarga koʻra, MiMo-V2.6-Pro va MiMo-V2.6-Flash repozitoriyalari Hugging Face platformasida RL kodi va 7000 dan ortiq sinov muhitlari bilan birga eʼlon qilindi.

Bu chiqarish vaznlar va kodni taqdim etishi bilan ajralib turadi, bu oldingi RL oʻrganish jarayonini toʻgʻridan-toʻgʻri efir orqali yoritishdan farq qiladi. Brendlash oʻzgarmaydi: Xiaomi / MiMo.

Pro va Flash modellarining nativ multimodal modellar sifatida joylashtirilishi va bir million token atrofidagi eʼlon qilingan kontekst oynasiga ega ekanligi taʼkidlanadi. Modellar kartochkalari va qoʻshimcha hisobotlar ingliz tilida Pro modeli kamida 1,02 trillion parametrli sekin aralash ekspertlar (sparse mixture-of-experts) arxitekturasiga ega ekanligini va unda taxminan 42 milliard parametr faol ishlatilayotganini koʻrsatadi. Flash modeli esa 309 milliard umumiy parametr va taxminan 15 milliard faollik bilan baholanadi.

Xiaomi maʼlumot berishicha, har bir model olti kundan kamroq vaqt ichida taxminan 750 000 yoʻnalishlar doirasida 30 ta RL qadamidan oʻtgan. Jarayon davomida kodlash, umumiy agent ishlashi, vizual vazifalar va kiberxavfsizlikni oʻz ichiga olgan vazifalarning aralashmasi ishlatilgan. Shu bilan birga, har bir yangilanishda taxminan 1568 soʻrov va 16 ishga tushirish ishlatilgan, va har bir qadamdagi maʼlumot hajmi 3,5–3,7 milliard tokenni tashkil etgan.

Kompaniya maʼlumotlariga koʻra, oʻrganish vazifalari boʻyicha samaradorlik taxminan 25% ga Flash va 12% ga Pro uchun oshgan. Bundan tashqari, DeepSWE v1.1 da yaxshilanishlar qayd etildi: Flash uchun 48,8 dan taxminan 65,7 gacha va Pro uchun 58,4 dan taxminan 72,6 gacha, ammo bu koʻrsatkichlar yetkazib beruvchi tomonidan taqdim etilgan maʼlumotlar boʻlib, uchinchi tomonlar tomonidan tasdiqlanishi talab etiladi.

Mavjud aktivlar shunchaki nazorat nuqtalaridan iborat emas. Xiaomi dasturiy taʼminot ishlab chiqish, zaifliklarni nusxalash, intellektual mehnat va veb-dizaynni qamrab oluvchi 7000 dan ortiq klassifikatsiya qilingan muhitlar asosida qurilgan keng qamrovli RL freymvorkini taqdim etdi. Shuningdek, RL sohasidagi jamoatchilik tajribalari uchun Distill-Qwen-9B boshlangʻich nuqtasi va koʻp kanalli oʻrganish uchun yengil komponentlar mavjud. Joylashtirilgan Pro va Flash versiyalari uchun API narxi MiMo-V2.5 ga mos kelishi eʼlon qilingan, shu bilan UltraSpeed darajasi sifatni saqlagan holda standart Pro dan 20 marta yuqori uzatish quvvatini vaʼda qiladi.

Biroq, muhandislar hali ham katta MoE ni texnik jihatdan taʼminlashning yuqori xarajatlari bilan duch kelishmoqda, va Xiaomining sunʼiy tahlil va agentlarning benchmarklari haqidagi bayonotlari tashqi nusxa koʻrishni talab qiladi. Asosiy yangilik – bu laboratoriyalar shunchaki toʻgʻridan-toʻgʻri efirda grafik koʻrinish emas, balki oʻz vakillari bilan oʻrganishi mumkin boʻlgan ochiq vaznlar, RL kodi va muhitlar bilan toʻliq MiMo-V2.6 paketidir.

Mashhur