Moore Threads ning Wuxi klasteri 2112 ta GPU bilan tijorat ekspluatatsiyasi boshlanganidan soʻng 92,9% yuklanishga erishdi

Xangdonda Huawei tomonidan ishlab chiqarilgan 1024 ta Ascend 950DT kartasi asosida qurilgan birinchi hisoblash klasteri faollashtirildi. Ishga tushirish 2026 yilgi Huaweining Xitoy roʻd-shouining bir qismi sifatida Hubei provinsiya uchun oʻtkazilgan sunʼiy intellekt konferensiyasida 28-oktabrda amalga oshirildi.

Ushbu klasterga investitsiyalarni Hubei shtati davlat investorining boʻlgan Hubei fan va texnologiyalariga investitsiya boʻlimi taqdim etdi. Ushbu boʻlim maʼlumotlariga koʻra, loyihani ish boshlanganidan foydalanishga kiritilgunicha atigi bir oy davom etgan, bu bunday miqyosdagi tizim uchun nisbatan qisqa muddatdir.

Joylashtirish yagona suyuqlik bilan sovutiladigan SuperPoDni tashkil etadi. Bir tugun 1024 ta Ascend NPU tezlatuvchi kartasiga ega. Hisoblash va ulanish shkafchalari toʻliq suyuqlik sovutish tizimlari bilan jihozlangan. Tizim FP8 formatida 1 EFLOPS samaradorligini taʼminlash va 256 TB global birlashtirilgan xotiraga ega. Kartalar orasidagi uzatish quvvati sekundiga terabayt darajasiga yetadi, shu bilan birga toʻliq bogʻlanish kechikishi mikrosekundlarda boʻladi.

Dizayn arxitekturasi Huawei ning SuperPoD uchun ichki bogʻlanish arxitekturasi boʻlgan UnifiedBus asosida qurilgan. Bu texnologiya klasterdagi har bir karta boshqa kartalarga bevosita murojaat qilish imkonini beradi, bu esa 1024 ta NPU ni standart tarmoq orqali ulangan koʻplab alohida serverlar emas, balki bitta katta tezlatuvchi kabi ishlashiga imkon beradi. Huawei ushbu qurilmani trillion parametrlik modellarni oʻqitish va AI agentlari inferensini bajarish uchun joylashtiradi.

SuperPoD yondashuvining asosiy afzalligi bevosita kirish imkoniyatidir. Katta modellarni oʻqitishda vaqtning sezilarli qismi chiplar orasida maʼlumotlarni koʻchirishga sarflanadi. Butun pod boʻylab va uning ichidagi bogʻlanish arxitekturasi orqali birlashtirilgan xotirani saqlash, sekinroq kanallar orqali oʻtishi kerak boʻlgan trafik hajmini kamaytiradi.

Klaster mahalliy ehtiyojlarni qondirish uchun moʻljallangan. U Hubei dagi model ishlab chiquvchilari va kompaniyalarga katta modellarni mashq qilish uchun kirish nuqtasini, shuningdek, sanoat AI agentlarini yaratish, sozlash va ishga tushirish uchun hisoblash quvvatining kirish manbasini taqdim etishga qaratilgan. Mahalliy manbalar bu hududdagi yuqori samarali hisoblash yetishmovchiligini toʻldirishini taʼkidlaydilar.

Xangdondagi ishga tushirish Ascend 950 avlodining dastlabki amaliy joriy etilishini ham bildiradi. Bu yil boshida Huawei Ascend 950 asosidagi jismoniy SuperPoDni namoyish etgan va oʻsha paytda oldingi avlod Ascend 384 SuperPoDning 750 dan ortiq toʻplami tijoriy ravishda joylashtirilganini maʼlum qilgan edi. Xangdondagi 950DT klasteri yangi SuperPoD konstruksiyasining namoyish uskunalari dan mintaqaviy AI hisoblash markazlariga oʻtishini koʻrsatadi.

Huawei klasterning energiya isteʼmoli yoki batafsil foydalanish koʻrsatkichlari haqida maʼlumot bermadi; yuqorida keltirilgan raqamli qiymatlar tashishuv tadbirida eʼlon qilingan.

Moore Threads kompaniyasi Megatron-MUSA-Titan loyihasini ommaga oshirdi va oʻzining katta modellarini oʻqitish uchun ishlab chiqqan infratuzilmani taqdim etdi. Ushbu loyiha Moore Threads ning 10 000 dan ortiq GPUdan iborat klasterlarida trilyon parametrli 'ekspertlar aralashmasi' (mixture-of-experts) kabi modellar bilan ishlash uchun moʻljallangan boʻlib, u oldindan oʻqitish va kuchaytirish orqali oʻqitishni qamrab oladi.

Loyihaning kodi GitHubda mavjud. Kompaniya bu tizimning 10 000 GPUli klasterlarda trilyon parametrli MoE ni oldindan oʻqitish uchun uzluksiz foydalanilganini taʼkidlaydi, bunda uzoq oʻquv sessiyalari modelning yuqori FLOPs foydalanishi va jarayon barqarorligini taʼminlagan.

Repositoriyda 1 trilyon parametrli Kimi-K2 uslubidagi MoE modeli uchun konfiguratsiya namunasi keltirilgan. Dizaynning asosiy tamoyili mavjud yechimlarga yaqinlikni saqlab qolish edi. Megatron-MUSA-Titan NVIDIA ning Megatron-LM freymvorki asosida qurilgan. torch_musa orqali PyTorch integratsiyasi va MUSA C ning CUDA C bilan mos kelishi tufayli, MUSA muhiti mavjud dasturchilar Megatron-LM, slime va miles ning rasmiy repositoriyalarini klonlab, kodni oʻzgartirish shartmasdan Moore Threads GPUlarida oʻqitishni boshlashlari mumkin.

Loyiha umumiy algoritmlar va xatolarni tuzatishlarni yuqori darajadagi loyihalarga yoʻnaltirish kerakligini koʻrsatadi, shu bois Moore Threads ikkita turdagi oʻzgarishlarga eʼtibor qaratadi: Moore Threads uskunalari va klasterlari uchun moslashtirilgan keng miqyosli optimallashtirishlar hamda MUSA ning maxsus muammolari uchun yechimlar.

Oldindan oʻqitish funksiyalari Moore Threads ning MT-TransformerEngineiga tayanadigan FP8 formatidagi blokli oʻqitishni oʻz ichiga oladi. MoE tokenlarini yoʻnaltirish va birlashtirish kompaniyaning Async Copy Enginei ustida ishlaydigan DeepEP yordamida tezlashtiriladi, bu esa ekspertlar kommunikatsiyasini hisoblashlar bilan parallel ravishda amalga oshirish imkonini beradi. Boshqa variantlar orasida virtual konveyer parallelizmi yordamida aktivatsiyalarni yuklash va bitta oldinga va bitta orqaga oʻtishni rejalashtirish, shuningdek, Mooncake RDMA orqali hisob-kitoblar bilan birgalikda konveyer parallel kommunikatsiyasi mavjud.

Tarqatilgan izlash tahlil asbobi har bir GPU dan PyTorch izlashlarini oʻqib, konveyer pufakchalari va past samaradorlikdagi tugunlar kabi sekin joylarni aniqlaydi. Loyiha 10 000 GPUda 1 trilyon parametrli MoE ishga tushirishni atigi bir necha soat ichida tahlil qilish qobiliyatiga ega ekanligini taʼkidlaydi.

Kuchaytirish orqali oʻqitish uchun stack slime va miles freymvorklarini qoʻllab-quvvatlaydi; Megatron oʻqitish bilan shugʻullanadi, MUSA-SGLang yigʻindisi esa oʻtishlarni yaratadi, bu esa bitta asosiy tizimga oldindan oʻqitish va RL ikkalasini ham xizmat koʻrsatish imkonini beradi. Mustaqil inferens uchun optimallashtirish ushbu loyiha doirasiga kirmaydi.

Milliy akseleratorlarni koʻrib chiqayotgan ishlab chiquvchilar uchun amaliy savol shundaki, mavjud oʻquv kodining qaysi qismi ishlayveradi. Moore Threads ning javobi shuki, Megatron ekotizimi kodi oʻzgarish talab qilmaydi.

SpacemiT kompaniyasi oʻzining V100 server protsessorini mustaqil ishlab chiqarmagan. 19-oktabrda Shenʼshenjda boʻlib oʻtgan Xitoydagi RISC-V Sammitida kompaniya XiangShan ochiq protsessori jamoasi bilan birgalikda ushbu chip atrofida qurilgan uchta tayyor serverni taqdim etdi. Ushbu tizimlar yuklash tezlatuvchilarining tasdiqlanishi va operatsion tizimlarni qoʻllab-quvvatlashi bilan taʼminlangan boʻlib, bu RISC-V asosidagi mashinalarni maʼlumotlar bazasi markazlariga joriy etishga qaratilgan.

Taqdim etilgan uchta qurilma C2201 hisoblash serveri, G5201 AI serveri va S5236 maʼlumotlar saqlash serverini oʻz ichiga oladi. Ular umumiy maqsadli vazifalarni hal qilish, sunʼiy intellektni tezlashtirish va keng miqyosli maʼlumotlarni saqlash uchun moʻljallangan. G5201 serveri ikki kenglikdagi toʻliq hajmdagi va toʻliq uzunlikdagi sakkizta tezlatuvchi kartasiga ega va yuqori tezlikdagi RDMA klaster tarmogʻini qoʻllab-quvvatlaydi. SpacemiT chip mahalliy tezlatuvchilar, jumladan Kunlunxin M100 dan foydalangan holda sinovdan oʻtkazilganini tasdiqlaydi.

Bundan tashqari, kompaniya hamkorlarga serverlar uchun anakartalar, proshivka, BMC boshqaruvi va oʻz brendli mashinalarni noldan yaratish zarurati boʻlmagan holda yaratish imkonini beradigan apparat referans dizaynlarini taklif qiladi.

Dasturiy taʼminotga katta eʼtibor qaratilgan. SpacemiT V100 kristalda, proshivkada va operatsion tizimda RISC-V server yechimlarining beshta spetsifikatsiyasini amalga oshirishi haqida maʼlumot beradi: RVA23, Server SoC, Server Platforma, Boot and Runtime Services (BRS) va xavfsizlik modeli. Kompaniya BRS barcha testlardan muvaffaqiyatli oʻtganini maʼlum qiladi. Shu sababli, openEuler, openRuyi, openKylin, Debian, Ubuntu, Fedora, Red Hat va Rocky Linux kabi operatsion tizimlar bevosita oʻrnatilishi, yuklanishi va ishga tushirilishi mumkin.

Koʻp ijara oluvchilarga ega bulutli muhitlar uchun V100 RISC-V H, AIA va IOMMU kengaytmasini qoʻllab-quvvatlaydi, bu CPU, xotira, uzilishlar va kirish-chiqishning apparat darajasidagi virtualizatsiyasini taʼminlaydi. SpacemiT taʼkidlaydiki, ushbu virtualizatsiya kengaytmalari allaqachon Linuxda tabiiy qoʻllab-quvvatlanadi, shuning uchun foydalanuvchi yadrosini yaratish shart emas. Chip shuningdek, apparat ishonch ildizi, RISC-V ishonchli ijro muhiti va RERI RAS qoʻllab-quvvatlashni oʻz ichiga oladi. Kompaniya V100 da AI yuklamalarini minimal qoʻshimcha xarajatlar bilan, konteynerlarga yaqin boʻlgan tarzda izolyatsiya qilish usuli sifatida yengil mikro-VM konsepsiyasini targʻib qiladi.

Chip oʻzi 6 ta XiangShan Kunminghu V2R2 va 40 ta SpacemiT X100 yadrolarini oʻz ichiga olgan 46 yadroli gibrid tuzilishdan foydalanadi, ular 2.4 GHz gacha chastotada ishlaydi. Ikki bunday chip umumiy 92 yadrolik samaradorlikka erishish uchun koherent bogʻlanishi mumkin. Har bir chip sakkizta DDR5 kanali va 52 ta PCIe 5.0 chizigʻini qoʻllab-quvvatlaydi. XiangShan Xitoy Fanlar Akademiyasi Hisoblash texnologiyalari instituti tomonidan nazorat qilinadi.

SpacemiT V100 ni RISC-V server yechimlari spetsifikatsiyalariga toʻliq mos keladigan birinchi universal chip sifatida joylashtiradi. Boshqaruvchi va Bosh direktor Chen Zhijian taʼkidlaganidek, bu chip kompaniyaning qurilmalar ishlab chiqarishdan bulutli texnologiyalarga oʻtishini bildiradi. Shuni taʼkidlash kerakki, barcha eʼlon qilingan xususiyatlar va mosliklar SpacemiT tomonidan taqdim etiladi.