Tencent mahalliy joylashtirish uchun Hy4 flash modelining vaznlarini chiqardi
Batafsil
TechNode
technode.com

Tencent mahalliy joylashtirish uchun Hy4 flash modelining vaznlarini chiqardi

Tencent kompaniyasi chorshanba kuni sunʼiy intellekt modeli Hy4 flash ning vaznlarini eʼlon qildi. Ushbu chiqarish model kompaniya ilovalari va bulutli API orqali foydalanuvchilarga taqdim etilganidan ikki kun oʻtgach amalga oshdi. Endi ishlab chiquvchilar standart model versiyasini, uning FP8 formatidagi versiyasini, shuningdek, yanada oʻrganish uchun asosiy modelni yuklab olish imkoniyatiga ega.

Ushbu chiqarish Tencentning ushbu modelning vaznlarini ommaviy foydalanish uchun ochiq qilish rejalari haqidagi avvalgi bayonotiga mos keladi. Hy4 flash modeli matn va grafik kiritishlarni qayta ishlashga qodir va uning kontekst oynasi bir million tokenni tashkil etadi.

Model taxminan 224 milliard parametrga ega, bunda har bir token uchun taxminan 12 milliard parametr faollashtiriladi. Hy4 flash ning asosiy maqsadi hujjatlarni tayyorlash, tadqiqotlar oʻtkazish va elektron jadvallar bilan ishlash kabi kundalik vazifalardagi samaradorlikni oshirishdir. Tencent vaznlar bilan birga tegishli joylashtirish materiallarini taqdim etib, ularni Tencent Hy litsenziyasi ostida tarqatdi.

Oʻxshash hikoyalar

Tencent Hy4 modelining million tokenli kontekst oynasi bilan Hy4 vaznlarini chiqardi
Batafsil
technode.com

Tencent Hy4 modelining million tokenli kontekst oynasi bilan Hy4 vaznlarini chiqardi

Tencent kompaniyasi juma kuni oʻzining bosh modellari boʻlgan sunʼiy intellekt modeli Hy4 ning vaznlarini eʼlon qildi va ishlab chiquvchilarga ushbu modelni mustaqil yuklab olish va joriy etish imkonini berdi. Ushbu chiqarilish Hy4 ning dastlabki ishga tushirilishidan soʻng sodir boʻldi va bosh model Apache 2.0 litsenziyasi ostida mavjud boʻlib, u tijoratdan foydalanishni va oʻzgartirishni ruxsat beradi.

Hy4 modeli matn, tasvir va videoni tushunish qobiliyatiga ega boʻlib, taxminan bir million token hajmidagi kontekst oynasiga ega. Uning 'ekspertlar aralashmasi' turidagi til ramkasi 770 milliard parametrni oʻz ichiga oladi, bunda har bir tokenni qayta ishlash uchun 49 milliard parametr faollashtiriladi.

Tencent bayonotiga koʻra, bu model versiyasi Hy4 ning oldindan koʻrinishidan koʻrsatma bajarish, uzun kontekstni tushunish, kengaytirilgan vazifalarni bajarish va ilmiy tadqiqotlar kabi sohalarda ustunlikka ega.

Model grafik interfeyslar va buyruq satri vositalarini qamrab oluvchi jarayonlarni, shuningdek, frontendni ishlab chiqish, oʻyin dizayni va ofis vazifalarini qoʻllab-quvvatlaydi. Tencent vLLM va SGLang uchun joylashtirish koʻrsatmalarini, shuningdek, nozik sozlash va xavfsizlik baholash xaritasini taqdim etadi. Bosh modelning chiqarilishi kichikroq Hy4 flash modelining alohida eʼlon qilinishidan keyin amalga oshdi.

Tencent Hy4 flash modelining vaznini uchta variantda yuklab olish uchun chiqardi
Batafsil
pandaily.com

Tencent Hy4 flash modelining vaznini uchta variantda yuklab olish uchun chiqardi

Tencent kompaniyasi Hy4 flash modelining vaznlarini yuklab olish uchun eʼlon qildi, bu modelning APIsi 16-noyabrda eʼlon qilinganidan soʻng sodir boʻldi. Bu haqida IT Home nashri 18-noyabrda xabar berdi. Ushbu yangilanish avval Pandaily tomonidan yoritilgan API spetsifikatsiyalari va narxlarni qayta taqdim etish oʻrniga, joylashtiriladigan nazorat nuqtalarini olish imkoniyatini taqdim etadi.

Tencentning rasmiy model kartochkasi uchta versiyani roʻyxatlaydi: koʻrsatma sozlamalari bilan model boʻlgan Hy4 flash; uning koʻrsatma sozlamalari bilan kvantlangan versiyasi boʻlgan Hy4 flash-FP8; va oldindan oʻqitilgan asosiy model boʻlgan Hy4 flash-base. Asosiy nazorat nuqtasi chat bilan ishlaydigan tayyor variantlarni almashtirish uchun emas, balki yanada oʻqitish uchun moʻljallangan.

Pandaily Hugging Faceʼdagi uchta rasmiy repozitoriyani tekshirdi. Vaznlar indeks fayllari mavjud shardlar roʻyxatiga ishora qilgan, va anonim bayt diapazoni soʻrovlari har bir versiya uchun vazn fayllarining maʼlumotlarini qaytardi. Bu tekshiruvlar yuklab olish imkoniyati borligini tasdiqlaydi, ammo nazorat nuqtalarining toʻliq yuklanishi yoki muvaffaqiyatli natija sinovlari emas.

Standart nazorat nuqtasi taxminan 440,5 GB tensor maʼlumotlarini oʻz ichiga oladi, FP8 uchun esa bu taxminan 287,1 GB ni tashkil etadi. Bu oʻlchamlar vazn maʼlumotlariga tegishli, GPU xotirasining minimal talablariga emas. Kvantlash saqlash hajmini kamaytiradi, lekin chiqarishni kichik isteʼmolchi qurilmalari uchun modelga aylantirmaydi.

Joylashtirish boʻyicha hujjatlar ushbu chiqarishning muhim qismidir. Tencent vLLM va SGLang uchun maxsus konteyner tasvirlarini, shu jumladan sakkiz tomonlama tensor parallelizmi foydalanish misollarini taqdim etadi. Transformers uchun koʻrsatmalar modelni qoʻllab-quvvatlashni soʻrashni koʻrsatadi, standart chiqarilgan paket ushbu arxitekturani allaqachon qoʻllab-quvvatlayotganini taxmin qilmaydi.

vLLM retsepti ham host operativ xotirasini talab qiladi, chunki Engram jadvallari standart holatda CPU xotirasiga yuklanadi. Boshlangʻich konfiguratsiya 8192 token hajmidagi kontekstdan foydalanadi; model tomonidan eʼlon qilingan 1 million token sigʻimi har bir apparat konfiguratsiyasining bunday uzunlikni xizmat qilishini kafolatlamaydi. Eʼlon qilingan xotira yoʻriqnomalari oʻlchangan minimal talablar emas, balki baholangan qiymatlardir.

Nazorat nuqtalari Tencent Hy 1.0 litsenziyasidan foydalanadi, bu litsenziya uni Apache 2.0 boʻlmaganligi haqida bevosita koʻrsatadi, garchi u undan hosil boʻlgan boʻlsa ham. 10-boʻlim modelni xizmat sifatida ishlatuvchi operatorlar uchun alohida yozma litsenziyani talab qiladi, agar ularning umumiy jahon daromadi ketma-ket 12 oylik davr ichida 50 million AQSh dollaridan oshsa, yoki modelni oyiga 100 milliondan ortiq faol foydalanuvchiga ega mahsulot yoki xizmatda ishlatilsa. Ichki foydalanish uchun tor aniqlangan istisno qoʻllaniladi, bunda model va uning natijalari uchinchi tomonlarga taqdim etilmaydi.

Shunday qilib, ushbu chiqarishni Tencent tomonidan eʼlon qilingan shartlarga muvofiq vaznlar boʻyicha ochiq deb taʼriflash eng yaxshi, cheksiz ruxsat etilgan ochiq kod sifatida emas. Tencent Hy4 kabi kattaroq modelning vaznlarini chiqarish hali tayyorlanayotganini maʼlum qilmoqda.

Tencent Hy4 flash modelini taqdim etdi, ichki sinovlarda AI vazifalari xarajatlarini 95% ga kamaytirdi
Batafsil
technode.com

Tencent Hy4 flash modelini taqdim etdi, ichki sinovlarda AI vazifalari xarajatlarini 95% ga kamaytirdi

Tencent kompaniyasi dushanba kuni kundalik vazifalar uchun moʻljallangan, yanada iqtisodli sunʼiy intellekt modeli boʻlgan Hy4 flashni chiqarib berdi. Bu model taqdimotlar yaratish, tadqiqotlar oʻtkazish va elektron jadvallarni tahrirlash kabi vazifalarni bajarish uchun moʻljallangan.

Tencent kompaniyasining ichki WorkIndex benchmarkiga koʻra, Hy4 flash modeli yordamida bitta vazifani bajarish xarajatlari toʻliq Hy4 modeliga nisbatan atigi bir yigirma qismni tashkil etdi. API narxlari quyidagicha belgilangan: million kirish tokeni uchun 0,07 dollar, million chiqish tokeni uchun 0,281 dollar va million keshlangan kirish tokeni uchun 0,003 dollar.

Hy4 flash modeli multimodal kiritishni qoʻllab-quvvatlaydi va bir million tokengacha kontekst oynasiga ega. U 224 milliard parametrga ega va toʻgʻridan-toʻgʻri oʻtishda 12 milliard parametrni faollashtiradi.

Alohida koʻz yumib sinovda, bunda WorkBuddy foydalanuvchilari 85 tasi 259 ta vazifa boʻyicha natijalarni baholashgan, Tencent modelning foydalanuvchilar qoniqish darajasi Claude Haiku 5.5 ga yaqin ekanligini, shu bilan birga sinovdan oʻtgan modellar orasida eng past xarajat va eng qisqa yakunlanish vaqtiga ega ekanligini maʼlum qildi.

Model WorkBuddy va Yuanbao, shuningdek, Tencent Clouddagi TokenHub orqali mavjud. WorkBuddy foydalanuvchilari uni 30-noyabr gacha bepul ishlatishi mumkin, va TokenHub standart narxdan ikki barobar arzon API orqali kirishni taklif qiladi. Tencent model yuklamalarini joylashtirish va uni OpenRouterda mavjud qilishni rejalashtirmoqda.

Mashhur