Qwen3.8-27B modeli isteʼmolchi uskunalarida mahalliy ishga tushirish uchun yangi samaradorlik standartini belgiladi
Batafsil
Pandaily
pandaily.com

Qwen3.8-27B modeli isteʼmolchi uskunalarida mahalliy ishga tushirish uchun yangi samaradorlik standartini belgiladi

Ochiq modellar bilan shugʻullanuvchi ishlab chiquvchilar koʻpincha memlar yaratadilar va soʻnggi oylardagi mashhur konsepsiyalardan biri bu 'kill line' — oʻyin atamasi boʻlib, u oʻyinning aslida yakunlanganini bildiradi. Modellar kontekstiga qoʻllanilganda, bu atama avval DeepSeek uchun ishlatilgan edi: yangi model imkoniyatlari va narxi boʻyicha DeepSeek bilan solishtirilardi; agar samaradorlik mos kelmasa va narx pasaymasa, model muhokama qilinadigan qiymatga ega emas deb hisoblangan. Biroq, bu chegarani hozir oʻzgartirmoqda.

Avgustning 14-ida Qwen3.8-27B chiqarildi va u atigi ikki kun ichida million yuklamaga ega boʻlib, Hugging Face global trendlar roʻyxatining boshiga chiqdi. Kod agenti Cline ishlab chiquvchilari orasida u toʻrt kun ichida eng talab yuqori boʻlgan mahalliy modelga aylandi. Artificial Analysis unga GPT-5.6 Luna va DeepSeek V4 Flash kabi 52 ball berdi va ishlab chiquvchilar uni mahalliy Opus 4.6 deb nomladilar. Bu model doimiy rivojlanib boradi va ayniqsa fikrlashda yaxshi natija beradi, raqobatchilari ancha koʻproq fikr jarayonidagi tokenlarni hosil qiladi. Simon Willison ushbu modelning standart sozlamalari bilan pelikanni velosiped ustida SVG formatida tasvir yaratish uchun 21 daqiqa talab qilinganini aniqladi.

Shuni tushunish muhimki, model faqat 27 milliard parametrga ega. Bir necha oy oldin yuzlab milliardlarni talab qilgan imkoniyatlar endi isteʼmolchi uskunalariga sigʻadigan hajmdagi boʻldi. 4 bitga kvantizatsiya qilinganda, ogʻirliklar taxminan 17 GB ga kamayadi, bu 24 GB videokartaga yoki katta xotaga ega Apple Silicon qurilmasiga mavjud. Eski ikkilamchi muammo shundaki, yoki ishlayotgan model yetarli darajada aqlli emas edi, yoki yetarli darajada aqlli model ishga tushmay edi; Qwen3.8-27B bu ikki shartni amaliy hajmda birlashtirish imkonini beradi.

Endi har qanday yangi model Qwen3.8-27B bilan taqqoslanadi. Oldingi DeepSeek 'kill line' narx va samaradorlik nisbatiga asoslangan edi, ammo bu hali ham bulut resurslarini talab qilardi. Kod agenti yuz minglab tokenlarni isteʼmol qilishi mumkin va avgust oyi oʻrtasida DeepSeek oʻz narxini oshirib, V4-Pro chiqarish narxini million token uchun 6 dan 27 yuan gacha koʻtarib yubordi. Soʻnggi ikki yil qaysi tokenlar bir xil intellekt darajasida arzonroq ekanligi masalasiga bagʻishlandi. Qwen3.8-27B yanada borib, quyidagi savolni beradi: model qanchalik katta boʻlishi kerak? Front-modelning katta qismini bajaradigan 27 milliard parametrlik model joylashtirishning jismoniy chegaralarini oʻzgartirmoqda.

Bu yutuq texnik ildizlarga ham ega. Ishlab chiqarish xarajatlarni kamaytirish yoʻli uzoq vaqt davomida MoE (Expertlar aralashmasi) asosida qurilgan, bu faqat baʼzi ekspertlarni faollashtirish orqali quvvatni oshiradi. Biroq, MoE ning bir muammosi bor, u bulutda sezilmaydi, lekin qurilmalarda ogʻriqli boʻladi: faol boʻlmagan ekspertlar mavjud boʻlib, shuning uchun umumiy ogʻirliklar saqlanishi kerak. Shu tariqa, MoE maʼlumotlar markazlari uchun mos keladi, PC, robotlar va periferik qurilmalar esa model umuman sigʻadiganmi degan tashvishda boʻladi. Qwen3.8-27B zich modeldir, shuning uchun samaradorlik arxitektura orqali erishiladi: u 64 ta qatlamdan 48 tasi uchun chiziqli diqqat va qolganlari uchun toʻliq diqqatni qoʻllab, uzun kontekstli KV keshining ketma-ketlik uzunligiga proporsional ravishda kengaymasligini taʼminlaydi.

Mashhur