Alibaba Cloud Lingjun Zhenwu M890 SuperPoD platformasida Kimi K3.1 Pro qoʻllab-quvvatlashini qoʻshdi

Huawei Ascend hisoblash tizimlari jamoasi 2,8 trillion parametrga ega boʻlgan Kimi K3.1 Pro modelining inferens uchun moslashtirilishining yakunlanganini maʼlum qildi. Ushbu modelning toʻliq vaznlari Moonshot AI tomonidan 4-noyabr kuni rasmiy Huawei Computing akkauntiga koʻra chiqarilgan, bu haqda IT Home va ifeng Tech xabar berdi.

vLLM Ascend va SGLang dan foydalanib, ishlab chiquvchilar endi ushbu modelni Atlas 800 A3, Atlas 900 A3 SuperPoD klasterida va uni chiqarilgan paytdan boshlab Ascend 950 SuperPoD seriyasidagi serverlarda joylashtira oladi.

Kimi K3.1 Pro Moonshot AI ning K3.1 seriyasidagi birinchi modeldir. Bu tabiiy vizual qayta ishlash va taxminan bir million token atrofidagi kontekst oynasiga ega boʻlgan mixture-of-experts turidagi model boʻlib, har bir inferens bosqichida taxminan 104 milliard parametrni faollashtiradi. Model Kimi Delta Attention (KDA) qatlamlariga asoslangan K3 gibridli chiziqli diqqatni saqlab qoladi va uzoq kontekst modellashtirish xarajatlarini kamaytirish uchun baʼzi toʻliq diqqat qatlamlari oʻrniga DSA (sparse attention) qatlamlarini qoʻshadi.

Moslashtirish boʻyicha ishning katta qismi aynan shu arxitektura bilan bogʻliq edi. Huawei aytganicha, uning inferens jamoasi Kimi K3 ning avvalgi moslashuviga tayanib, yangi modelni oldindan tahlil qilib va modelni integratsiya qilish, operatorlarni ishlab chiqish va xizmatlarni tasdiqlash ustida parallel ish olib bordi. KDA va MoE ning mavjud qoʻllab-quvvatlanishi tufayli, jamoa yangi sparse attention va multimodal inferens yoʻlini qoʻshdi, mavjud inferens freymvorklaridagi xizmat koʻrsatish funksiyalarini saqlab qoldi.

Huawei maʼlumotlariga koʻra, optimallashtirish tarixiy maʼlumotlarni tanlash, sparse attention hisob-kitoblari, old ishlov berish va qoldiq hisob-kitoblari uchun asosiy operatorlarni qamrab oldi, bu esa uzun kontekstli inferens va ishlab chiqarish xizmatini qoʻllab-quvvatlash uchun tarqatilgan keshlash va freymvork darajasidagi funksiyalar bilan birlashtirildi. Kompaniya foydalanuvchilar va ishlab chiquvchilar model chiqarilgan birinchi kuni ilovalarni sinovdan oʻtkazish va joylashtirishni boshlashi maqsadini qoʻydi.

vLLM Ascend hujjatlari Kimi K3.1 Pro ning vLLM Ascend 0.30.0 versiyasida eksperimental rejimda qoʻllab-quvvatlanishini koʻrsatadi. Uning standart tuzilmalari prefiks va dekodlashni sakkiz tugunga ajratadi, bunda toʻrtta prefiks va toʻrtta dekodlash tugunlari mavjud boʻlib, bir million tokenli uzun kontekst konfiguratsiyasini ham oʻz ichiga oladi. Atlas 800I A3 serverlari W4A8 kvantlangan nuqtasi bilan ishlaydi, shu bois 950DT mahsulotlari W4A8 MXFP variantidan foydalanadi; rahbariyat taʼkidlaydiki, Atlas A2 va 950PR mahsulotlari hali qoʻllab-quvvatlanmaydi.

Model hajmi apparat qoʻllab-quvvatlashni amaliy masalaga aylantiradi. IT Home eslatadiki, BF16 formatidagi vaznlar taxminan 5,6 TB egallaydi va INT4 kvantlashda ham taxminan 1,4 TB talab qiladi, bu bitta isteʼmolchi GPU dan foydalanishni istisno qiladi. Huawei oʻzining A3 va 950 SuperPoD tizimlarini bu trilyon parametrlik MoE inferens sinfi uchun joylashtirdi va Kimi K3.1 Pro ning chiqarilishi uni ishga tushirish kuni qoʻllab-quvvatlagan oxirgi ochiq model boʻldi.

Lenovo Xinchuang IT sohasidagi innovatsiyalar uchun moʻljallangan Kaitian liniyasidagi birinchi AI host-tizimini ishlab chiqardi. Ushbu 1,6 litrlik stol kompyuteri Zhaoxin protsessorini Houmo AI NPU bilan birlashtirib, taxminan 35 milliard parametrli modellarini mahalliy ravishda ishga tushirish imkonini beradi.

Uskunaning ichida sakkiz yadroli Zhaoxin KX-7000 protsessori va Houmo Liqing LQ50 NPU joylashgan. Standart konfiguratsiyada tizim INT8 formatida 160 TOPS hisoblash quvvatini taʼminlaydi, NPU opsiyasi bilan esa bu quvvat 320 TOPS gacha yetishi mumkin. NPU 153,6 GB/s uzilish tezligi bilan 24 GB ajratilgan xotiraga ega.

Korxona qurilmani ochiq modellardan, jumladan Qwen3.5 va Qwen3.6-35B-A3B seriyalari yordamida sinovdan oʻtkazdi. 24 GB NPU va W4A8 kvantizatsiyasidan foydalanilganda, Qwen3.6-35B-A3B modeli mahalliy chiqarish paytida sekundiga taxminan 28,99 token tezligida matn hosil qildi. Tizim uzun hujjatlar va koʻp bosqichli vazifalarni qayta ishlash uchun 200 000 tokengacha maʼlumot kiritishni qoʻllab-quvvatlaydi. Houmo platformasi ishlab chiquvchilarga modellarni profilga olish, kompilyatsiya qilish, ijro vaqtini boshqarish va kvantizatsiya qilish uchun vositalarni taqdim etadi.

Lenovo ushbu hostni doimiy faol raqamli xodim sifatida joylashtiradi, u kun davomida ishlash uchun moʻljallangan. Bu agentlarga mahalliy bilimlarni izlash, hujjatlar tuzish va maʼlumotlarni umumlashtirish kabi rejalashtirilgan vazifalarni bajarish imkonini beradi, shu bilan birga natijalar qayta ishlash bulutli tokenlar orqali emas, balki toʻgʻridan-toʻgʻri qurilmada amalga oshiriladi va maʼlumotlar mahalliy saqlanadi. Tianxi AI Pro tadbirida sinovchilar mobil operator ilovasini tekshirish buyrugʻini berishdi va qurilma sinov qoʻngʻirogʻini amalga oshirdi, SMS tasdiqlash kodining kechikishini oʻlchadi va hisobot taqdim etdi.

Issiqlik tarqatish boʻyicha, protsessor va NPU geksagonal old panel ostidagi yuqori bosimli ventilyatorlar bilan alohida havo kanallariga ega. Lenovo maʼlumot berishicha, boʻsh ishlayotganda korpus harorati 25 darajadagi xonada taxminan 33 daraja Selsiy, toʻliq yuk ostida esa 41 darajagacha yetadi. 35 darajadagi xonada toʻliq yuk ostida harorat taxminan 46 darajagacha koʻtariladi. shovqin darajasi kutish rejimida 19,4 dB, NPU toʻliq inferensiya paytida esa taxminan 29,5 dB ni tashkil qiladi. Qurilma taxminan 1,5 kg ogʻirlikdagi va ikkita mustaqil 2,5GbE porti bilan jihozlangan.

Shuni taʼkidlash kerakki, Kaitian host Lenovo AI Host P7 dan farq qiladi, u oktyabr oyida Houmo M50 va CIX P1 chiplari bilan taqdim etilgan edi.

Moonshot AI kompaniyasi Kimi K3.1 modellari seriyasi, Kimi Code va Kimi Work mahsulotlari hamda Unity, Unreal Engine va Blender kabi professional vositalar uchun plaginlar asosida oʻyinlar va ijodiy asarlarni yaratish uchun kompleks yechimni ishlab chiqardi.

Kompaniyaning bayonotiga koʻra, bu paket studiyalarga oʻyin konsepsiyalarini tezroq sinab koʻrishga, muhandislik va sanʼat ishlab chiqarishini rivojlantirishga, shuningdek, ishga tushirish va operatsion faoliyat davrida olingan oʻyinchilar fikrlarini keyingi ishlab chiqish bosqichiga qaytarishga yordam berish maqsadida yaratilgan.

Kimi modelining tavsifida, u dizayn hujjatlari, skrinshotlar, dasturiy kod va uch oʻlchovli aktivlarni tahlil qila oladi, soʻngra zarur boʻlgan ishlarni rejalashtiradi. Kimi Code mahsuloti mavjud kod bazasi ichidagi oʻzgarishlarni amalga oshiradi, shu bois Kimi Work bir nechta faylni qamrab oluvchi koʻp bosqichli ishlab chiqarish vazifalarini bajaradi.

Plaginlar va vosita chaqiruvlari tufayli, Kimi mavjud loyihalar bilan bevosita ishlashi mumkin, foydalanuvchiga bajarilgan harakatlar haqidagi hisobot bilan birga tahrirlash mumkin boʻlgan fayllarni qaytaradi. Unity va Unreal Engine muhitlarida, kerakli kirish huquqlari va loyiha fayllarini olgan holda, tizim avvalo kod tuzilmasini, sahnalar ierarxiyasini va modullar bogʻliqliklarini xaritalaydi, soʻngra redaktor plaginlari orqali oʻzgartirishlar kiritadi va oxirida natijani ijro bosqichlari, jurnal va bajarilish vaqtiga oid maʼlumotlar boʻyicha tekshiradi. Muhandislar uchun kod farqlari toʻgʻrisidagi hisobotlar va tasdiqlash yozuvlari saqlanadi.

Unityda ishlash uchun Kimi Tuanjie Codely Agent agentidan foydalanadi, bu Unity China tomonidan yaratilgan va Tuanjie Engine ga integratsiya qilingan oʻyin agentidir. Kimi ishlab chiquvchining niyatlarini talqin qiladi, kod yozadi va sinov natijalarini hamda ekran yozuvlarini tahlil qiladi, shu paytda Codely agenti redaktor skriptlari va bajarilish vaqti orqali dvigatel ichida operatsiyalarni bajaradi. Bitta namoyish jarayonida Kimi inson aralashuvisiz 20 soat davomida ishlashini, mavjud oʻyinni qayta tiklashini va keyinchalik rivojlantirilishi mumkin boʻlgan nativ loyihani yaratishini koʻrsatdi.

Ishga tushirish sahifasida Kimi K3.1 Pro yordamida yaratilgan bir nechta namuna toʻplamlari keltirilgan. Blenderda ichki jungle vodiysi qurildi va 1920x1080 aniqlikda va sekundiga 60 kadr tezligida 17,5 soniya davom etadigan parvoz render qilindi, shuningdek, taxminan 3,3 million uchburchak va 8368 animatsion komponentga ega ibodatxonaning ichki qismi brauzerda koʻrsatildi. Unreal Engine 5.8 da 1750 metr radiusdagi 36 kamonli ustunlar bilan osmon saroyi sahnesi va Nanite hamda Lumen yordamida render qilingan, jami 36 million uchburchakli protsedural ravishda modellashtirilgan daryo yaratildi. Kimi shuningdek, dasturlash tajribasi boʻlmagan dizaynerlar Godotda bir yoki ikki kun ichida oʻynaladigan prototiplarni yaratishi mumkinligini taʼkidlaydi.

Ishlab chiqarish vazifalaridan tashqari, ushbu yechim reklama kreativlarini partiyaviy yaratish, Kimi API orqali oʻyin ichidagi yordamchilarni integratsiya qilish, manbalarga bogʻlangan jamoatchilik fikrlarini saralash, teskari tarjima tekshiruvi bilan lokalizatsiya loyihalarining loyihalarini tayyorlash va foydalanuvchi kontentini dastlabki tanlashni oʻz ichiga oladi. Kimi jamoalarga bitta aniq cheklangan vazifa bilan boshlash va pilot loyihalarni tejangan vaqt, natija sifati va talab qilinadigan inson qoʻshimcha ishi hajmi kabi mezonlar boʻyicha baholashni maslahatlar beradi.