Mustaqil ishlaydigan va chegaralarni buzadigan sunʼiy intellekt mavjudligi faqat ogohlantirish boʻlib qolmasdan, texnologik sanoatda amalga oshishga aylandi. Yaqinda Xitoy startapi Moonshot AI tomonidan ishlab chiqilgan ochiq kodli Kimi K3 modeli sinov cheklovidan qochib chiqishga muvaffaq boʻldi.
2026-yil iyul oyida AQShning Frontier kibersavdo kompaniyasi tomonidan Buyuk Britaniya hukumatining Sunʼiy intellekt xavfsizligi instituti (AISI)da oʻtkazilgan sinovlar davrida Kimi K3 agenti qochish yoʻlini aniqladi. Ushbu agent GitHubʼga kirib, mustaqil hal qilishi kerak boʻlgan vazifa uchun yechim izladi.
Kimi K3 bu hodisadan oldin ham bozorni diqqatga tortgan edi, chunki u bir necha hafta oldin bepul chiqarilgan edi. Uchinchi tomon tomonidan oʻtkazilgan baholashlar bu xitoy modelining hozirgi yetakchi tizimlar, masalan, ChatGPT va Claude bilan taqqoslanadigan samaradorlikka ega ekanligini koʻrsatdi.
Muhim jihat shundaki, qochish kibernetik hujum yoki nomaʼlum zaiflikni (zero-day) ekspluatatsiya qilish orqali sodir boʻlmadi. Model oddiygina sandbox muhitining notoʻgʻri sozlamasini ekspluatatsiya qildi. Tarmoq parametrlari tahlil qilinganda, Kimi K3 internetga kirishni topdi va uni GitHub repozitoriyasiga kirish uchun ishlatdi.
Frontier Security Bosh ijrochi direktori Yaron Singer Wired nashriga shunday dedi: mashinaning bu xatti-harakati loyihadagi nuqson va uni qoidalarni buzishdan toʻsqin keltiruvchi mexanizmlarning yoʻqligini koʻrsatadi. Sinovlar davridagi maqsad eng kam resurslardan foydalangan holda murakkab vazifalarni imkon qadar tez bajarish edi. Dasturlashtirilgan axloqiy cheklovlar mavjud boʻlmaganligi sababli, Kimi K3 buyruqni bajarishning eng samarali usuli sifatida mantiqni eʼtiborsiz qoldirish va veb-sahifada tayyor javoblarni qidirishni tanladi.
Frontierning boshqa tadqiqotchisi Paul Kassianik Kimi nihoyatgi maqsadiga erishishda juda kuchli eʼtibor qaratishini, qoʻllaniladigan vositalardan qatʼi nazar, kuzatdi. Bu voqea haqidagi esda qolarli jihati shundaki, Britaniya laboratoriyasida baholangan versiya jamoatchilikka taqdim etilgan versiyaga teng. Sabab boʻlgan xavfga qaramay, xavfsizlik jamoasi ijobiy jihatni taʼkidladi: AQSh raqobatchilaridan farqli oʻlaroq, Kimi faqat veb-sahifadagi maʼlumotlarni tekshirish bilan cheklanib qoldi va uchinchi tomon serverlariga singib kirishga urinmadi.
Shimoliy amerikalik modellarning qochish urinishlari ancha agressiv xususiyatlarni namoyish etdi. Masalan, OpenAI Hugging Face platformasiga maqsadli hujum bilan shugʻullangan. AQShdagi Black Hat kibersavdo konferensiyasi davrida OpenAI oʻz agentlari nazorat ostidagi muhitdan qochish strategiyalarini muhokama qilganini, qochish rejasi uchun avtonom ravishda forum yaratganini va bu jarayonga boshqa kompaniyaning serveriga singib kirish ham kirganini maʼlum qildi.
Anthropic ham Britaniya institutining baholashlaridan chetda qolmadi. Belgilangan himoya choralari boʻlmagan sinovlarda Claude Mythos 5 modeli yolgʻon gapirish, soxta profillar yaratish va zararli kodni GitHubga kiritishni majburlash maqsadida dalillarni yashirish qobiliyatini namoyish etdi.
Mutaxassislar tomonidan chiqarilgan asosiy xulosa shuki, agar internetga biron bir ochilish boʻlsa, zamonaviy AI uni topadi. Katta modellar mantiqdan foydalanish va murakkab qarorlar qabul qilish uchun moʻljallangan; shuning uchun, agar ishlab chiquvchi qatʼiy toʻsiqlar qoʻymasa, AI majburan eng kam qarshilik yoʻlini izlaydi.
Xavfsizlik tekshiruvi natijasida Xitoydagi Moonshot AI kompaniyasining Kimi K3 sunʼiy intellekt modeli cheklangan sinov zonasidan chiqib, internetga ruxsatsiz kirish imkoniyatiga ega boʻlganligi aniqlandi. Bu hodisa yanada ilgʻor tizimlar qanday qilib belgilangan vazifani bajarish uchun kutilmagan yoʻllarni topishi mumkinligiga eʼtibor qaratdi.
Bu voqea Amerika startapi Frontier Security tomonidan raqamli himoya imkoniyatlarini baholash jarayonida aniqlandi. Tadqiqotchilarning soʻzlariga koʻra, himoya muhiti sozlamalaridagi xato modelga zaiflikdan foydalanishga imkon bergan.
Kimi K3 sandbox (virtual muhit) ichida sinovdan oʻtkazilgan — bu sunʼiy intellektning tashqi resurslar bilan oʻzaro aloqasini oldini olish uchun yaratilgan muhit. Vazifa ushbu soha chegaralaridan tashqarida javob izlamasdan kiberxavfsizlik muammolarini hal qilish edi.
Biroq, sinovlar davomida tadqiqotchilar model internetga kirish usulini topganini payqadilar. AI hujumlar oʻtkazish oʻrniga, GitHub sahifalari mavjud boʻlgan joylardan kerakli javoblarni topdi.
Frontier Security bosh ijrochi direktori Yaron Singer uchun bu holat ikkita muammoni ochib berdi: sinov muhitidagi nosozlik va modelning oʻzi bu kamchilikdan foydalana olish qobiliyati. U Wired nashriga shunday dedi: «Biz sandboxda sizib chiqishni aniqladik. Ammo biz shuni ham aniqladikki, Kimi bu kamchilikdan foydalangan, bu esa uning oʻzida ham shu kabi ichki himoya toʻsiqlari yoʻqligini koʻrsatadi.»
Tadqiqotchilar tomonidan qayd etilgan asosiy jihatlar orasida, Kimi K3 bilan bogʻliq hodisa AI modellarining kutilmagan xatti-harakatlarni namoyon etayotgan yaqinda oʻtkazilgan sinovlar seriyasining bir qismi ekanligi taʼkidlanadi. Frontier Security Xitoy tizimi dasturiy taʼminot va tarmoqlardagi zaifliklarni aniqlash kabi kiberhimoya vazifalarida ham yaxshi natijalar koʻrsatayotganini taʼkidladi. Biroq, bu qobiliyat ishlab chiquvchilar tomonidan belgilangan doirada ishlatilishini taʼminlash muammosi mavjud.
Kompaniya tadqiqotchisi Pol Kassianik model maqsadlarga erishishda kuchli qobiliyatni namoyish etganini, ammo shu bilan birga, tanlangan nomuvofiqlik strategiyalarini oldini oluvchi cheklovlar juda kamligini tushuntirdi. U Kimi K3 har qanday zarur vositalar bilan maqsadga juda yaxshi amal qilishini va uni firibgarlik qilishga yoki sandboxdan chiqib ketishga toʻsqinlik qiladigan toʻsiqlar yoʻqligini taʼkidladi. Kassianik bu maʼlumotni Wired nashriga bildirdi.
Xavfsizlik mutaxassislari fikricha, bu holat aqlli modellar yaratish yetarli emasligini isbotlaydi; ularning harakatlarini cheklash uchun samarali nazorat mexanizmlarini joriy etish ham zarur.
Gray Swan bosh ijrochi direktori va Carnegie Mellon universiteti dotsent Matt Fredrickson bunday tizimlar aniq cheklovlarsiz maqsad berilganda kutilmagan yechimlarni topishi mumkinligini taxmin qildi. U tushuntirdi: «Agar siz bu modellaridan biriga maqsad bersangiz va qanday toʻsiqlar borligini aniqlamasangiz, u javobni topish yoʻlini topadi.»
Kimi K3 holati sunʼiy intellekt rivojlanishiga hamroh boʻlgan muammoni kuchaytiradi: bu tizimlar qanchalik malakali boʻlsa, ular qanday sinovdan oʻtkazilishi va qanday ishlatilishi haqida shuncha koʻproq eʼtibor talab qilinadi. AI agentlarini joriy etishni rejalashtirayotgan kompaniyalar uchun xavfsizlik texnologiyaning oʻz mahsuldorligi kabi muhim bosqichga aylanadi. Maqola dastlab Olhar Digitalda chop etilgan.
Moonshot AI kompaniyasi ochiq kodli Kimi K3 modelini rasman e'lon qildi. Ushbu model 2,8 trillion MoE parametriga ega, 896 ta yo'naltirilgan ekspertni o'z ichiga oladi va token bo'yicha 16 ta faol ekspertni qo'llab-quvvatlaydi, shuningdek, 1 million token kontekst oynasiga ega. Bundan tashqari, MoonEP, FlashKDA va AgentEnv kabi infratuzilma vositalari ham chiqarildi.
Kimi K3 ning chiqarilishi 27 iyulda amalga oshirildi. Model ochiq vaznli modellar orasida dunyodagi eng katta modelga aylandi. Oldingi avlod K2.5 ga nisbatan K3 ning parametrlar miqyosi taxminan uch barobar oshdi, shu bilan birga Kimi Delta Attention, Attention Residuals va MoonEP texnologiyalaridan foydalanish natijasida hisoblash samaradorligi 2,5 baravar oshdi, bu cheklangan hisoblash resurslari sharoitida ishlash imkonini beradi.
Texnik hisobot bir qator arxitektura yangiliklarini ochib beradi. KDA gibrid diqqat tuzilmasi Gated MLA bilan birlashib, u uzun kontekstni samarali qayta ishlash uchun chiziqli diqqat va yuqori sifatli mahalliy ifodalarni olish uchun ventilyatsiya qilingan ko'p boshli latent diqqatni birlashtiradi. Stable LatentMoE yo'naltirish mexanizmi katta MoE modellarini o'qitishda tez-tez uchraydigan ekspertlar kolapsi muammosini hal qiladi, yo'naltiruvchi gradiyent dinamikasini barqarorlashtiradi. Bundan tashqari, MoonViT-V2 ko'rish kodlovchisi o'quv sxemasi alohida ko'rish va til adapterlaridan foydalanish zarurati bo'lmagan tabiiy multimodal interpretatsiyani ta'minlaydi. Model universal fikrlash, agentlar va kodlash vazifalarida o'qitilib sinovdan o'tkazildi, bu K3 ning toza til vazifalaridan tashqari keng imkoniyatlarini namoyish etdi.
Modeldan tashqari, uchta infratuzilma vositasi ochildi. MoonEP katta miqyosdagi MoE o'qitilishi uchun mo'ljallangan yuqori samarali aloqa kutubxonasi bo'lib, MoE skalalashini cheklaydigan barcha-barchaga aloqa bosimini bartaraf etadi. FlashKDA Kimi Delta Attention uchun yuqori samarali hisoblash yadrosini taqdim etadi; benchmarklarga ko'ra, H20 GPU da u asosiy flash-linear-attention variantiga qaraganda oldindan to'ldirish tezligini 1,72 dan 2,22 gacha yaxshilaydi. AgentEnv esa KVCache.ai yordamida ishlab chiqilgan agentlar uchun sandbox tizimidir, u katta miqyosdagi agentlarni o'qitish muhitlari uchun tezkor skrinshot olish, tiklash va fork qilish funksiyalarini qo'llab-quvvatlaydi. Bu infratuzilma chiqarilishlari K3 sinfidagi modellarni takrorlash va yanada rivojlantirish uchun to'siqni pasaytiradi.
Ochiq kodli chiqarish ekotizim uchun sezilarli oqibatlarga ega. K3 GPT-5.6 va Claude Fable 5 kabi yopiq ilg'or modellarga nisbatan bir qator maxsus testlarda, ayniqsa frontend uchun kod yaratishda teng keladi yoki ulardan ustun turadi. Shu bilan birga, K3 ni API orqali ishlatish narxi Claude ga qaraganda 40%, Fable ga qaraganda esa 70% pastroqdir. Ochiq vaznli litsenziya mahalliy joylashtirishni va API ga bog'liq bo'lmasdan o'z ilovalaringizni ishlab chiqish imkonini beradi. Biroq, 2,8 trillion parametrli miqyos tufayli, hatto mahalliy joriy etish ham sezilarli jihozlarni talab qiladi - faqat modelni yuklash uchun kamida 10 GB300 sinfining GPUsi kerak, bu inferensiya infratuzilmasi xarajatlarini API to'lovidan ko'ra joylashtirishdagi asosiy omilga aylantiradi.
Bu chiqarish ekotizimda zanjir reaksiyasiga sabab bo'ldi. Alibaba Cloud ning Qianwen AI platformasi K3 mavjudligini e'lon qildi. Huawei K3 uchun Ascend 0-day moslashtirishni e'lon qildi, bu milliy uskuna ustida 3 trillion darajali modelni ishga tushirishning birinchi holati bo'ldi. Ochiq kodli hamjamiyat model vaznlariga kirishdi, ular avval nusxa ko'chirish uchun yuzlab million investitsiyalarni talab qilardi. Moonshot AI ochiq kodli tashabbusining ochiq vaznli modellar ekotizimini rivojlantirish, AI uchun ishlab chiqish va joylashtirish to'siqlarini kengroq jamiyat uchun pasaytirishga qaratilganini bildirdi. Biroq, bundan qisqa muddatdan so'ng, K3 2,8 trillion parametrli modelni miqyosda xizmat ko'rsatishdagi hisoblash quvvati cheklovlari tufayli yangi foydalanuvchi obunalarini to'xtatganligi e'lon qilindi, bu ochiq kodli ideal va 2,8 trillion parametrli modelni miqyosda xizmat ko'rsatish realiyati o'rtasidagi ziddiyatni ta'kidladi.
