OpenAI oʻzining sunʼiy intellekt tizimlari himoyalangan fikrlash funksiyalarini ajratib olishga qaratilgan tashkillashtirilgan operatsiyani aniqlagan va toʻxtatganini eʼlon qildi. Kompaniya bu faoliyatning sezilarli qismini Kimi chatbotini ishlab chiqqan Moonshot AI bilan bogʻliq shaxslarga yukladi.
Bu faoliyat iyul oyining boshida boshlangan va shu oyning 24 va 25 kunlari orasida choʻqqiga chiqdi. Ushbu davr mobaynida OpenAI bir xil ajratish sxemasini kuzatuvchi toʻrt mingdan ortiq foydalanuvchidan kelib tushgan 16 ming soʻrovni qayd etdi. Keyinchalik tekshiruv 15 mingdan ortiq foydalanuvchilar bilan aloqalar borligini ochib berdi. Kampaniya kompaniya tomonidan 28-iyul kuni toʻliq toʻxtatildi.
Muhim jihat shundaki, modellar distillash legitim oʻquv metodologiyasi boʻlib, unda «professor» deb nomlangan kuchliroq tizim javoblarni yaratadi va ular ikkilamchi model, yaʼni «talaba»ni yoʻnaltirish uchun ishlatiladi. Bu texnikaning maqsadi asosiy modelning bir qator koʻnikmalarini shu darajadagi protsessor talab qilmasdan nusxalashi mumkin boʻlgan kichikroq va iqtisodiyroq tizimlarni ishlab chiqishdir.
Muammo u yerda yuzaga keladiki, korporatsiyalar ruxsatsiz katta hajmdagi javoblarni yigʻish uchun uchinchi tomonning maxfiy modellaridan foydalanishadi, bu esa himoyalangan deb hisoblanadigan imkoniyatlarni takrorlashni maqsad qiladi. Ushbu vaziyatda amerikalik AI kompaniyalari bunday harakatlarni noqonuniy distillash deb atashni boshladilar.
Modellarning oʻrta fikrlash jarayoni ushbu jarayonda diqqatni tortdi. Faqat yakuniy javoblarni ushlash oʻrniga, distillash operatsiyasi tizim muammolarni qanday hal qilishini bilishga harakat qilishi mumkin, bu esa oʻqitilayotgan modelga aniq xulosaga yetish yoʻli haqida batafsilroq misollar taqdim etadi.
OpenAI ning bu aybi xitoy va amerikalik AI laboratoriyalari oʻrtasidagi kengroq nizo kontekstida sodir boʻldi. Fevral oyida Anthropic uchta xitoy laboratoriyasini, jumladan Moonshotni, distillash kampaniyalarini aniqlaganini bildirdi. Oʻsha paytda Anthropic Claude bilan bogʻliq 24 mingga yaqin yolgʻon akkauntlarga bogʻliq 16 milliondan ortiq oʻzaro aloqalarni topganini taʼkidlagan edi, bunda Moonshot ushbu oʻzaro aloqalarning 3,4 millionidan ortigʻini tashkil etgan.
Sentabr oyida Anthropic Moonshotga oʻz modellaridan oʻquv maqsadlarida foydalanishi boʻyicha ayblovni takrorladi. Kompaniyaning hisobotida startup oʻz mijozlarining soʻrovlarini Claudega sirli ravishda yuborganligi, natijada Kimi dan foydalanayotgan foydalanuvchilar Anthropic modelining javoblarini olganligi koʻrsatilgan. Anthropic oʻn kunlik davrda Claudega yoʻnaltirilgan deyarli 300 ming soʻrovni, asosan Opus modeliga, 5380 ta firibgarlik akkauntlardan iborat tarmoqdan foydalanib aniqlagan. Bundan tashqari, Anthropic olgan javoblardagi fikrlash yozuvlarini chiqarish uchun yaratilgan mexanizmlarni ham koʻrsatdi.
Anthropic maʼlumotlariga koʻra, Moonshot 2026-yil may va iyul oylari oraligʻida distillash kampaniyalariga oid 23 milliondan ortiq oʻzaro aloqalarni kuzatgan, garchi bu maʼlumotlar Anthropicning oʻz ichki tekshiruvlariga tegishli boʻlsa va OpenAI tomonidan hisobot berilgan joriy kampaniyaga emas.
Mavzu AQSh hukumatiga yetib bordi
Masala AQSh hukumatining hududiga ham yetib keldi. Iyul oyida Xazinaning kotibi Scott Bessent hukumat Amerika modellarining distillashining dalillari tasdiqlansa, xitoyning ochiq kodli modellariga sanksiya qoʻyishi mumkinligini eʼlon qildi. Oʻsha paytda Bessent amerikalik hokimiyatlarining AQShning yirik til modellari imzolarini turli xitoy modellarida aniqlayotganini va vaziyatni qabul qilinmaydigan deb baholayotganini taʼkidladi.
Sanksiyalar qoʻyish imkoniyati xitoy kompaniyalari oʻz tizimlarini rivojlantirishni tezlashtirish uchun amerikalik modellaridan foydalanayotgani haqidagi daʼvolar fonida yuzaga keldi. Reuters oʻsha paytda AQSh hokimiyatlari ham xitoy kompaniyalariga qarshi mumkin boʻlgan cheklovlarni koʻrib chiqayotganini xabar qilgan, shu bilan birga Pekin texnologiyaning notoʻgʻri egallanishi ayblovlarini rad etgan.
Oʻz navbatida, Moonshot avvalroq Kimi K3 modelining ishlash samaradorligi distillash natijasi boʻlgan degan daʼvo bersa, uni inkor qilgan. Reuters maʼlumotlariga koʻra, kompaniya samaradorlikdagi taraqqiyot tizim arxitekturasidagi ichki oʻzgartirishlar orqali erishilganini taʼkidlagan.
OpenAI hodisa uning modellarining yagona kamchiligi emasligini tushuntiradi. Kompaniya kampaniya tafsilotlarini sektor hamkorlari bilan Frontier Model Forum orqali baham koʻrdi, maqsad shunga oʻxshash urinishlarga qarshi himoyani mustahkamlash edi. Bogʻlanishlar bloklanganidan tashqari, kompaniya akkauntlar yaratish va infratuzilma nazoratini kuchaytirdi, tarmoq monitoringini kengaytirdi va shifrlangan fikrlash maʼlumotlarini bir suhbatdan ikkinchisiga oʻtkazish va uni yana oʻqiladigan matnga dekriptsiya qilishga imkon beradigan funksiyani tuzatdi.
Tashkilot bu turdagi operatsiya modelar yuqori darajada rivojlanganda tobora murakkablashib borishini bashorat qiladi. OpenAI quyidagicha eʼlon qildi: «Biz kutamizki, adversarial distillash urinishlari chegaraviy modellar yaxshilanadi va agentlar ularning imkoniyatlarini arzonroq nusxalash yoʻllarini izlaydi, shuning uchun yanada murakkablashadi. Bu faoliyatga qarshi kurash koʻp qavatli nazorat va doimiy moslashuvni talab qiladi».
>