IQuest Research IQuest-Q1 modelini chiqardi: 15B faol parametrli agentlar uchun 320B MoE kodlash
Batafsil
Pandaily
pandaily.com

IQuest Research IQuest-Q1 modelini chiqardi: 15B faol parametrli agentlar uchun 320B MoE kodlash

IQuest Research jamoasi keng jamoatchilik uchun IQuest-Q1 modelini eʼlon qildi. Bu 'ekspertlar aralashmasi' (Mixture-of-Experts, MoE) turidagi tenlov modeli boʻlib, u agentlar ishi doirasida kodlash, fikrlash va koʻp bosqichli vositalardan foydalanish vazifalari uchun ishlab chiqilgan. Modelning umumiy parametri hajmi taxminan 320 milliardga yetadi, shu bilan birga har bir token uchun taxminan 15 milliard parametr faollashtiriladi.

Modelning ogʻirliklari va kartochkasi 28-sentabr kuni IQuestLab tashkilotining Hugging Face platformasida joylashtirildi, shuningdek, inferens uchun kod maxsus IQuest-Q1 litsenziyasi ostida GitHubda mavjud. Jamoa IQuest-Q1 ni agentlar buyruq satri tizimlari uchun fundamental model sifatida taqdim etmoqda.

Texnik xususiyatlar va oʻqitish

Model kartochkasiga koʻra, IQuest-Q1 ning 88 ta transformator qatlami, 256 ta eksperti bor, ulardan toʻrtta tadan bittasi token uchun faollashadi. Model sirpanadigan oynali uchta va toʻliq diqqatga ega bitta qatlamni birlashtiruvchi gibrid diqqat naqshidan foydalanadi va 524 288 token hajmidagi kontekst oynasini qoʻllab-quvvatlaydi. Koʻp tokenli bashorat qilish uchun spekulyativ dekodlashni qoʻllab-quvvatlovchi qatlamlar mavjud.

IQuest modelni sakkizta grafik protsessor (GPU) ustida SGLang yoki vLLM yordamida ishlatishni tavsiya qiladi va uni Claude Code yoki Codex kabi muhitlar ichida ishga tushirishni maslahat beradi. Old va oʻrtacha oʻqitish jarayoni maʼlumotlarni kod va STEM fanlari tomon yoʻnaltirish, shuningdek, uzoqroq kontekstli agent traektoriyalarini qoʻshishni oʻz ichiga olgan, undan soʻng agentlar ishlashga yoʻnaltirilgan uch bosqich amalga oshirildi.

IQuest real APIlar, MCP serverlari va ijro etiladigan repozitoriyalar kabi muhitlar bilan birga vazifalarni sintez qilib, bitta siyosatni koʻplab muhitlarda oʻrgatdi. Kuchaytirilgan oʻqitish usullari turli ssenariylar uchun toʻrtta ekspert modelini yaratish imkonini berdi — agent foydalanuvchisi tajribasi, bir nechta muhitlarda ishlash, katta gorizontli vazifalar va umumiy agent ishi. Ushbu modellar keyinchalik siyosat boʻyicha koʻp oʻqituvchilik destillatsiyasi orqali bitta talaba sifatida birlashtirildi.

Sinov natijalari

Eʼlon qilingan benchmarklarda sinovdan oʻtkazilganda, IQuest-Q1 quyidagi natijalarni namoyish etdi: DeepSWE v1.1 da 64.6, NL2Repo da 63.0, CyberGym da 84.5, Terminal-Bench 2.1 da 83.2, JobBench da 55.7 va Agents' Last Exam da 29.6. Taqqoslash jadvali shuni koʻrsatadiki, model NL2Repo da GLM-5.3 va DeepSeek-V4-Pro dan ustun, ammo DeepSWE va CyberGym testlarida DeepSeek-V4.1-Flash dan pastroq. Boshqa modellarning natijalari imkon boʻlsa, ommaviy tarzda taqdim etilgan.

IQuest shuningdek, model inson nazorati ostida ishlab chiqilganligini taʼkidladi. IQuest blogida tasvirlangan holatda, Claude Code ichida ishlayotgan IQuest-Q1, mukofot egri chizigʻining sekinlashuvi ortiqcha boʻshliq kiritilganligi sababli yuzaga kelganini aniqladi, bu esa oʻquvning yoʻqotish funksiyasida faqat koʻp bosqichli traektoriyalarning oxirgi qadamini qoldirdi. Bu xatolik bartaraf etilgandan soʻng, oʻrtacha mukofot tiklandi. Tadqiqotchilar tadqiqot yoʻnalishlari, qimmatbaho eksperimentlar va joriy etish uchun versiyalarni tanlash ustidan nazoratni saqlab qolishdi. Jamoa model matnli ekanligini, dastlabki bosqichda ekanligini va buyruq satrida haqiqiy vazifalarni bajarishda doimiy inson nazoratini talab qilishini ogohlantiradi.

Mashhur