allworld.mediaButun dunyo bo‘ylab yangiliklar
Cambricon PyTorch fondining boshqaruv kengashining platinaviy aʼzosi boʻldi
Batafsil
Pandaily
pandaily.com

Cambricon PyTorch fondining boshqaruv kengashining platinaviy aʼzosi boʻldi

Cambricon kompaniyasi PyTorch Fondiga platinaviy aʼzo sifatida qoʻshildi va Fondning boshqaruv kengashida oʻrn oldi. Boshqaruv sohasidagi bu muhim voqea Sentabrning 8-sana atrofida Shanghayda boʻlib oʻtgan PyTorch Conference China 2026 konferensiyasi ochilishi davrida eʼlon qilindi.

PyTorch Fondining konferensiya sharhida Cambricon Alibaba Cloud bilan birga yangi platinaviy aʼzolar roʻyxatiga kiritildi, antropologik guruh esa yangi oltin aʼzo boʻldi. Bu ochiq manbali holda freymvorklar, tezlashtiruvchilar va xizmatlar steklari qanday oʻzaro taʼsir qilishini shakllantiradigan tashkilotlar doirasini kengaytiradi.

Cambricon uchun bu qadam shunchaki yangi kremniy mahsulotni chiqarish emas, balki ekotizimdagi oʻrni mustahkamlash sifatida qaralmoqda. Kompaniya «Upstream First» tamoyiliga amal qiladi, oʻzgarishlarni uzoq muddatli yopiq forklarni yaratish oʻrniga, toʻgʻridan-toʻgʻri PyTorchning jamoatchilik tarmogʻiga yoʻnaltiradi. Ularning hissasi yetti modulni qamrab oladi: torch.compile, Eager operators, device runtime, tarqatilgan hisoblashlar, avtomatik aralash aniqlik, DataLoader va Profiler.

Bu qamrov MLU tezlashtiruvchilari bitta oʻquv va inferens skriptlari doirasida uskuna almashtirish paytida toʻliq orqa tomonlar sifatida ishlashini istagan ishlab chiquvchilar uchun muhimdir.

Xodimlar vakillarining ishtiroki kengash darajasidagi ramkali ishni kuchaytiradi. Aʼzolik haqidagi xabarda Cambricon freymvork rahbari boshqaruv kengashiga qoʻshilishi, PyTorchning asosiy ishlab chiquvchisi esa Torch-MLU kengaytmalari uchun PrivateUse1 uslubidagi orqa tomonlarni integratsiya qilish ustida ishlash uchun Texnik maslahat kengashiga kirishi qayd etiladi.

PyTorch Fondining ijrochi direktori Mark Collier bu toʻldirishni konferensiya materiallarida xush kelibsiz deb taʼkidlab, tezlashtiruvchi ishlab chiqaruvchilar faqat sunʼiy intellekt dasturiy taʼminotining butun hayot sikliga — tajribadan ishlab chiqarish xizmatlarigacha jalb qilinganda muvaffaqiyatga erishishini taʼkidladi.

Bundan tashqari, Cambricon mashhur ochiq modellarning ularning uskunalari ustida tez ishlashi uchun vLLM bilan hamkorligini davom ettiradi. Biroq, bu material avvalroq yoritilgan Day-0 Flash mahsuloti haqidagi eslatmalarning takrori emas. Ekotizim uchun amaliy xulosa interfeyslarning barqarorligidir: kengash va TACdagi ishtirok, shuningdek, asosiy tarmogʻga integratsiya qilingan kompilyator va ishga tushirish muhitining patchilari heterogen chiplar kodni qayta yozish xarajatlarini kamaytirish imkonini beradi.

Oʻxshash hikoyalar

Cambricon DeepSeek-V4.1-Flash modelini vLLM stekida moslashtirdi
Batafsil
pandaily.com

Cambricon DeepSeek-V4.1-Flash modelini vLLM stekida moslashtirdi

Cambricon kompaniyasi Day-0 dasturi doirasida ochiq vLLM inferensiya stekiga asoslangan holda DeepSeek-V4.1-Flash modelini muvaffaqiyatli moslashtirishni eʼlon qildi. Bu yangi chiqarilgan model DeepSeek kontroller punktini eʼlon qilgan kunida Cambricon akseleratorlarida barqaror ishlashi mumkinligini anglatadi.

Bu eʼlon chip va dasturiy taʼminot oʻrtasidagi sinergiyani taʼkidlaydi: model va chipning bir vaqtda mavjudligi hamda NeuWare va vLLMni birlashtiruvchi Cambricon yondashuvining yetukligi. Bu modelning umumiy mavjudligi haqidagi maʼlumotlarning takrorlanishi emas.

DeepSeek-V4.1-Flash DeepSeek ning yangi arxitektura liniyasining eng kichik variantidir. Bu 552 milliard parametrli mixture-of-experts turidagi model boʻlib, kirish tomonida taxminan 8 milliard va chiqish tomonida 16 milliard parametrlarni faollashtiradi, shuningdek, koʻp modalli koʻrishni oʻz ichiga olgan. DeepSeek Causal-Encoder-Decoder tuzilmasidan foydalanish va KV-keshni agressiv siqishni taʼkidlaydi, bu oldingi avlodga nisbatan HBM talabini taxminan toʻrtta gacha va SSD talabini sakkizdan gacha kamaytiradi, shu bilan birga kesh hajmi birinchi versiyaga qaraganda yuzlab marta kichikroq boʻladi.

Bu xotira tejash akselerator ishlab chiqaruvchilari uchun juda muhimdir, ular yuqori yuklamaga duch kelayotgan zich serverlarda inferensiya kechikishini, DRAM hajmini va saqlash darajalarini nazorat qilishni maqsad qilganlar.

Oʻz tomondan, Cambricon muhandislari Engram va Compressor kabi tuzilmalarni tezlashtirish uchun Torch-MLU-Ops birlashtirilgan operator kutubxonasidan foydalanishdi, shuningdek, sekin va siqilgan diqqatning qizgʻin nuqtalari uchun BangC da optimallashtirilgan yadrolarni yozdilar. vLLM ichida Cambricon tensor, konveyer, ketma-ket, paket va ekspert parallelizmi kiritilgan besh oʻlchovli aralash parallelizm qoʻllab-quvvatlashini, aloqa va hisoblashlarni qamrab olish, past aniqlikdagi kvantlash va boshidan oxirigacha tranzmittivlikni oshirish uchun prefiks va dekodlashni ajratishni eʼlon qiladi. Ushbu stek kompaniyaning uzoq muddatli dasturiy platformasi boʻlgan NeuWare ustida ishlaydi.

Bir necha kun avval Cambricon PyTorch Foundationga platinaviy aʼzo sifatida qoʻshildi va boshqa yirik uskuna va bulutli xizmat ishlab chiquvchilari bilan birga boshqaruv kengashida oʻrn tutdi, bu ochiq oʻrganish va inferensiya ekotizimiga chuqurroq sarmoya kiritilishini bildiradi.

Endi Cambricon beshta asosiy xitoy model liniyalarining Day-0 inferensiyasini qoʻllab-quvvatlaydi: GLM, DeepSeek, Qwen, Kimi va MiniMax, ular mos ravishda Zhipu AI, DeepSeek, Alibaba, Moonshot AI va MiniMaxni ifodalaydi. Caixin Global nashri Cambriconni shu kunda kiritish imkoniyatini Xitoyda model va chip ishlab chiqish ichki sikllarini qisqartirish belgisi sifatida alohida taʼkidladi — koʻp oylik yopiq portlardan operatorlar tomonidan standartlashtirilgan jamoatchilik freymvorklarida ishga tushish tayyorgarligiga oʻtish.

Klaster operatorlari uchun amaliy xulosa birgalikdagi mavjudlikdir: ilgʻor ochiq model chiqqanda, Cambricon mijozlari yopiq fork kutish oʻrniga vLLM hujjatlashtirilgan retseptidan foydalana oladi. Dasturiy taʼminot ekotizimi uchun keyingi sinov DeepSeek ning kattaroq variantlari va koʻp modalli xizmatlarning aralashmalariga ushbu Day-0 sxemasi qoʻllanilishi mumkinmi degan masalada boʻladi.

Mashhur