Zhunguangcun Akademiyasi va Zhunguangcun Sunʼiy intellekt instituti ZGCM-1-7B modelini chiqardi. Bu 7,39 milliard parametrli toʻliq ochiq zich model matematik xulosa chiqarish va vositalardan foydalangan holda agent qidiruvi vazifalari uchun moʻljallangan.
Vaznlar, oʻquv maʼlumotlari va oʻquv kodi Hugging Face va GitHub platformalarida MIT litsenziyasi ostida mavjud, detallangan texnik hisobot esa arXiv da eʼlon qilingan.
Model cheklangan sirgʻaluvchi oynali 27 ta qatlam va beshta global qatlamdan iborat gibrid diqqat arxitekturasidan foydalanadi. U 256 ming token hajmdagi kontekst oynasini qoʻllab-quvvatlaydi va bitta checkpointda toʻgʻridan-toʻgʻri javob berish ham, fikrlash ham rejimlariga ega.
Oldindan oʻqitish bosqichida FP8 gibrid aniqligi va Muon optimallashtirishidan foydalanib, taxminan 4,19 trillion token ishlatildi. Oʻrtacha oʻqitish davrida kontekst 16 mingdan 64 mingga, soʻngra 256 mingga kengaytirilgan va bu jarayonda taxminan 600 milliard token ishlatilgan. Shu bilan birga, oʻzaro taʼsirlar yoʻnalishlari MDP holat-harakat oʻtishlariga aylantirildi.
Supervizorli nozik sozlash umumiy va agent yoʻnalishlarini, jumladan, sinovdan oʻtkazilgan vositalardan foydalanishni va faqat yordamchiga yoʻnaltirilgan yoʻqotishni birlashtirdi.
Fikrlash rejimida model MATH-500 boʻyicha 97,13%, AIME 2026 boʻyicha 75,00% va HMMT 2025 boʻyicha 70,42% natijalarni namoyish etdi. Hisobotga koʻra, bu koʻrsatkichlar 14 ta xulosa chiqarish benchmarklarida solishtirilayotgan yetti taqqoslanadigan 7–8 milliard parametrlik model orasida eng yaxshi oʻrtacha reytingni taʼminladi.
Agent qidiruvi vazifalarida ZGCM-1 veb-qidiruv va sahifalarni oʻqishdan foydalanganda WebWalkerQA da taxminan 63,09%, BrowseComp da 19,43% va vositalardan foydalangan holda Binary Function Search da 62,00% ga erishdi.
Arxitektura eksperimentlari shuni koʻrsatadiki, 256K kontekstda oʻquv quvvati toʻliq diqqatga nisbatan taxminan 3,94 marta yuqori. Bundan tashqari, arxitektura, aniqlik, optimallashtiruvchi va normalizatsiya tanlovi kombinatsiyasi tufayli, oldindan oʻqitish boshlanishidan 16K da yoʻqotish olishgacha boʻlgan vaqt taxminan 4,2 marta qisqartirildi.
Tez boshlash uchun maxsus modellashtirish fayllari uchun trust_remote_code fayli talab qilinadi. Jamoa shuningdek, maʼlumotlarni qayta ishlash, oldindan oʻqitish, oʻrtacha oʻqitish, SFT va RL ning turli bosqichlari uchun konfiguratsiyalarni nashr etadi. Maʼlumotlarni kuratorlik qilish va baholashda tadqiqotchilar tomonidan boshqariladigan AI agentlari ishtirok etgani bildirildi. Ochiq vaznlarda ishlaydigan laboratoriyalar uchun ZGCM-1 chatning yangiligi emas, balki ZGCM brendi ostidagi shaffof end-to-end konveyer bilan matematik va qidiruv uchun ixcham asosiy modeldir.