Huawei openJiuwen platformasining bir qismi boʻlgan, oʻz-oʻzini rivojlantiruvchi modellarni routeri boʻlgan X-Routerni taqdim etdi. Bu platforma Huawei Cloud va Huawei Laboratoriyalari jamoalari tomonidan 2012 yildan beri, shuningdek, universitetlar va korxona ishlab chiquvchilari tomonidan ishlab chiqilgan boʻlib, AI agentlari bilan ishlash uchun moʻljallangan.
2-oktabrda eʼlon qilingan X-Router agent va u chaqiradigan modellar oʻrtasida ishlaydi. Uning vazifasi har bir kiruvchi soʻrov uchun qaysi model uni qayta ishlashi kerakligini aniqlashdir: oddiy vazifalar yengil va arzon modellariga yoʻnaltiriladi, murakkab vazifalar esa eng kuchli modellariga yoʻnaltiriladi.
Jamoa tizim Ascend ga doʻstona ekanligini va sinovlar davomida token isteʼmolini 50% dan ortiq kamaytirishga imkon berganini taʼkidladi.
Ishlash prinsipi va arxitektura
X-Router openJiuwen modellarni yoʻnaltirish mexanizmining algoritmlaridan biridir. Uda Rust asosidagi yadro va Python kengaytmasi mavjud va uning kodi Apache-2.0 litsenziyasi ostida GitHub va AtomGit da mavjud.
Host-jarayonida ishlaydigan Qwen3-0.6B klassifikatori dialogni tahlil qiladi va unga beshta murakkablik darajasidan birini beradi: SIMPLE, MEDIUM, COMPLEX, RESEARCH yoki REASONING. Belgilangan darajaga mos keladigan yoki undan pastroq soʻrovlar mahalliy model tomonidan qayta ishlanadi, murakkabroq soʻrovlar esa ushbu darajaga mos keladigan bulutli modelga yuboriladi.
Bundan tashqari, agar maqsadli model notoʻgʻri ishlashni boshlasa, router muammoni eskalatsiya qilish oʻrniga avtomatik ravishda mahalliy modeldan foydalanishga oʻtadi.
Mexanizm har bir model uchun imkoniyat profillarini qoʻllab-quvvatlaydi, ular tarixiy maʼlumotlar asosida oflayn yaratiladi va model versiyasi yoki samaradorligi oʻzgarganda bir daqiqa ichida yangilanadi. Har bir bosqichda u yaqinda boʻlgan suhbat va vositalar chaqiruvi jarayonini oʻrganadi, oxirgi foydalanuvchi soʻrovini hisobga oladi, shuningdek, KV-cache ga yaqinlik, joriy yuk va modelning yaqinda vaqt tugashi yoki tezlik cheklovi kabi tizimli parametrlarni ogʻirlashtiradi.
Qoʻshimcha ravishda, ixtiyoriy kontekstual bandit oʻxshash oʻtmishdagi soʻrovlar natijalari asosida oʻrganiladi va agar boshqa daraja aniq yaxshiroq natija koʻrsatsa, klassifikator qarorini bekor qilishi mumkin, biroq dalil bazasi zaif boʻlsa, dastlabki tanlovni saqlab qoladi.
Yoʻnaltirish algoritmlari toza funksiyalar boʻlgani va xotira alohida holat qatlamida saqlanishi sababli, bu holatni yoʻqotish tizimni sovuq yoʻnaltirishga qaytaradi, soʻrovlarning buzilishining oldini oladi.
Sinov natijalari
Jamoa X-Routerni openJiuwen agentlari ishchi muhiti boʻlgan WorkSwarm ga integratsiya qildi va 11 ta kategoriyadagi barcha 147 ta PinchBench vazifalarini oʻtkazdi. Har bir soʻrovni Kimi-K2-Thinking ga yuborganida $11.11 model narxi bilan 71.36% koʻrsatkichi erishildi. X-Router yordamida statik yoʻnaltirish $8.25 sarf bilan 66.3% ni koʻrsatdi.
Banditni oʻqitishni yoqilganda natija 70.70% gacha yaxshilandi va narx $6.16 gacha pasaydi, bu asosiy darajadan taxminan 44.6% kamroq.
Terminal-Bench da LLMRouterBench orqali Opus 4.8, Qwen3.5-122B va Qwen3.5-35B modellari pul havzasidan foydalanib, mablagʻni tejashga yoʻnaltirilgan sozlama Opus ga nisbatan 51.4% kamroq narxda 95.2% muvaffaqiyatga erishdi, sifatga yoʻnaltirilgan sozlama esa 15.7% xarajatlarni kamaytirish bilan 98.6% ni koʻrsatdi.
Router WorkSwarm dagi MoA koʻpmodelli hamkorlik funksiyasi bilan ham integratsiya qilingan, bu bir nechta modellarning murakkab savolga javob berishi kerakmi yoki yoʻqmi, ularning natijalari birlashtirilishidan oldin hal qilish imkonini beradi. Jamoa mustahkamlashtirilgan oʻrganishdan foydalangan holda yoʻnaltirish strategiyalarini oʻrgatishni oʻz ichiga olgan oʻz-oʻzini rivojlantiruvchi funksiyalarni yanada rivojlantirishni rejalashtirmoqda.