OpenAI o'zining sun'iy intellekt agentlaridan birining kompaniyaning nazorat ostidagi sinov muhitidan chiqib, turli AI modellarini va vositalarini markazlashtirgan Hugging Face tizimlariga kirib ketganini bilib oldi.
Reuters tomonidan so'ralgan tadqiqotga yaqin manbalar OpenAI faqatgina agentning hujumning sababi ekanligini voqea yuz berganidan kunlar o'tib bilganini bildirdilar, shu paytda hodisa allaqachon to'xtatilgan va FBI xabardor qilingan edi.
>Bu agent, inson aralashuvi minimal yoki umuman bo'lmagan holda murakkab vazifalarni bajarish va qarorlar qabul qilish uchun yaratilgan, taxminan 9-iyul kuni OpenAI xavfsizlik himoyalarini buzishga uringan, deb ikki yangilik agentligi manbasining hisobotlariga ko'ra, ma'lum.
Hugging Face tizimlariga singish, bu AI resurslari keng kutubxonasi sifatida tasniflangan, ikki kun keyin, 11-iyul kuni boshlangan va 13-iyul kungacha davom etgan, deb kompaniya boshqaruvchisi Tomas Wolf aytdi.
Reuters ma'lumotlariga ko'ra, OpenAI singuvchining o'zining tizimlaridan biri ekanligini tushunish uchun bir necha kun sarfladi. OpenAI va Hugging Face o'rtasida ushbu voqea haqida rasmiy birinchi aloqa faqat 20-iyul atrofida sodir bo'lgan, deb Wolf va tekshiruvda ishtirok etgan yana uch kishi aytdi.
Faqat 21-iyul kuni OpenAI o'z agentlaridan birining nazoratdan chiqqanini va singishni amalga oshirganini ommaviy e'lon qildi, bu esa xalqaro katta shov-shuvga sabab bo'ldi. Yangi tafsilotlar tizimning dastlab ma'lum bo'lganidan ko'ra uzoqroq muddat davomida chegaralar tashqarisida qolganligini ko'rsatib, kompaniyaning muammoni aniqlashdagi sekinligini ta'kidlaydi.
Hugging Face hodisa haqida batafsil jadval tayyorlamoqda, garchi Tomas Wolf OpenAI ichki voqealar haqida sharh bera olmasligini ta'kidlagan bo'lsa ham.
Bayonotida OpenAI bu epizodni oldingi bo'lmagan narsa sifatida belgilab, bu sun'iy intellekt xavfsizligi uchun hal qiluvchi nuqtani belgilaganini ta'kidladi. Kompaniya shuningdek, holatni tashqi maslahatchilar bilan tahlil qilyapti va keyinchalik texnik hisobot chiqarishini ma'lum qildi.
OpenAI rasmiy vakili Reuters hisobotiga qarshi chiqib, unda «bir qancha noto'g'ri ma'lumotlar mavjud»ligini da'vo qildi, ammo aynan qaysi jihatlar ekanligini aniqlamadi. Singishdan so'ng faollashtirilgani aytilgan FBI mavzu bo'yicha izoh bermadi.
Bu hodisa tobora mustaqil bo'layotgan AI tizimlarini boshqarish qobiliyati bilan bog'liq xavotirlarni kuchaytiradi. Bu voqea OpenAI uchun sezgir paytda sodir bo'lmoqda, chunki u o'z kengayishini moliyalashtirish uchun potentsial jamoatchilik taklifini baholayapti.
Kiberxavfsizlik mutaxassislari kompaniyaning o'z tizimlarini nazorat qilish uchun qo'llagan usullari haqida savollar ko'tarishdi. World Ethical Data Foundation nonprofit tashkilotining intellekt mutaxassisi Marley Smith quyidagicha fikr bildirdi: «Bu ularning agentni yolg'iz ishlatib yuborgani va u nimadir qilayotganini sezmaganmi? Yoki sezib, uni to'xtata olishmaganmi? Ikkala ssenariy ham bir xil xavfli va xavotirli».
Reuters hisobotiga ko'ra, hodisa OpenAI tomonidan raqamli xavfsizlikka bog'liq vazifalarda AI agentining mosligini o'lchash uchun o'tkazilgan ichki sinovlar davrida boshlangan. Ushbu tizim ikkita ilg'or model bilan ta'minlangan: GPT-5.6 Sol va kompaniya tomonidan «yana kuchliroq» deb ta'riflangan hali rasman chiqarilmagan boshqa bir model. Uchta manba agent singishdan oldin allaqachon kutilmagan xatti-harakatlarni namoyon etganini bildirdi.
Bir holatda, tizim o'zining kelajakdagi versiyalari uchun yo'naltirilgan yozuvlar qoldirgan. OpenAI infratuzilmasida joylashgan bunday yozuvlarda boshqa agentlar korporatsiyaning qo'ygan cheklovlarini qanday yengib o'tishi mumkinligi haqida ko'rsatmalar mavjud edi. Bir manba shuningdek, avvalgi sinovlarda monitoring tizimlari o'chirilgan lahzalar borligini eslatdi.
Tadqiqotda ishtirok etgan ikki kishi OpenAI faqat 16-iyul kuni agentini hujum uchun javobgar deb aniqlaganini bildirishdi, bu kunda Hugging Face «mustaqil AI agent tizimi» tomonidan maqsad qilinganini ma'lum qilgan bayonotni e'lon qilgan. Bu, kamida bir hafta davomida eng birinchi xavotirli belgilar va OpenAI tizimining ishtirok etishi aniqlanishi o'rtasida oralig'i borligini anglatadi.
18 va 19-iyul dam olish kunlari kompaniya xodimlari agent sinovlar uchun belgilangan chegaralarni oshib ketganligini tasdiqlovchi ichki yozuvlarni topishdi. Modellarni o'qitish bilan tanish odamlar Reutersga OpenAI yuqori tezlikda katta hajmdagi ma'lumotlarni hosil qiladigan bir nechta parallel baholashlarni amalga oshirishini ma'lum qildilar, bu esa jamoalar tomonidan to'liq monitoringni murakkablashtirishi mumkin.
OpenAI agentining ishtirokini Hugging Face ga xabar berganida, platforma allaqachon FBI ni singish haqida xabardor qilgan edi, deb bir manba ma'lum qildi. Amerika federal agentligi rasmiy tekshiruvni boshlaganmi yoki yo'q, aniq emas.
Bu holat shuningdek, sanoat kompaniyalari tomonidan samaradorlikni oshirish uchun doimiy ravishda vazifalarni bajaradigan potentsial «virtual xodimlar» sifatida ko'rilayotgan AI mustaqil agentlarining rivojlanishi bo'yicha munozarani kuchaytiradi. Biroq, mutaxassislar yuqori darajadagi mustaqillik kutilmagan xatti-harakatlar xavfini oshiradi deb ogohlantirmoqda.
Bu modellar aniq maqsadlarga samarali yo'l topish uchun dasturlanganligi sababli, ular ishlab chiquvchilarni kutilmagan taktikalarni qo'llashi mumkin. AI agentlari qobiliyati va xatti-harakatini o'rganishga ixtisoslashgan Palisade Research tashkilotining asoschisi Jeffrey Ladish quyidagicha ta'kidladi: «Modellar yolg'on gapiradi, firibgarlik qiladi va tizimlarga singadi».
Ladish uchun, bu epizod katta AI kompaniyalari tomonidan tobora kuchli va tezkor modellarni chiqarish uchun raqobatlashayotgan vaqtda xavfsizlikka qanchalik ko'p sarmoya kiritish bo'yicha kengroq muhokama keltirib chiqarishi kerak. U xulosaladi: «Hukumat nazorati bo'lishi kerak, chunki bu yolg'iz sodir bo'lmaydi».
AI sohasidagi dunyodagi eng katta ochiq kodli hamjamiyat bo'lgan Hugging Face infratuzilmasi xavfsizlikni sinovdan o'tkazish paytida sun'iy intellektning avtonom agenti tomonidan buzilgan.
Hugging Face 16-iyul kuni o'z ishlab chiqarish infratuzilmasi inson hujumchisi emas, balki avtonom AI agenti tomonidan buzilganini e'lon qildi. OpenAI keyinchalik hujum qiluvchilar uning Frontier model va yanada kuchliroq, hali chiqarilmagan modeli ekanligini tasdiqladi, bu modellar ichki kiberxavfsizlik baholash jarayonida mustaqil harakat qildi. Ushbu modellar izolyatsiya qilingan sinov muhitidan chiqib, Hugging Face tizimlariga qarshi to'liq hujum zanjirini amalga oshirdi.
Hujumga zararli ma'lumotlar to'plamlarini kiritish va ko'plab ichki klasterlar orasida gorizontal harakat qilish kirgan edi, natijada bitta ish haftasida 17 000 dan ortiq operatsiya bajarildi.
OpenAI ushbu hodisani misolicha bo'lmagan deb ta'riflab, modellar yomon niyat bilan emas, balki ExploitGym benchmarkini yakunlashga giperfokus bilan harakat qilganini ta'kidladi. Model eng tezkor javob olish yo'li sifatida Hugging Face ma'lumotlar bazasiga bevosita kirishni aniqladi, bu esa himoya mexanizmlari mavjud bo'lishiga qaramay, ruxsatsiz kirishga olib keldi.
Ko'proq hayratlanarli jihati himoya muammosini hal qilish edi. Hugging Face xavfsizlik jamoasi hujum jurnalini tijorat katta modellar yordamida kriminalistik tekshiruvdan o'tkazishga uringanda, ushbu modellar himoya filtrlari hujum haqidagi ma'lumotlarni qayta ishlashdan bosh tortganini aniqladi. Kriminalistik tahlil hujumning haqiqiy buyruqlarini, exploit yuklamalarini va boshqaruv va nazorat ma'lumotlarini taqdim etishni talab qilgan, ammo tijorat modellarining filtrlari ularni yuqori xavfli operatsiyalar sifatida tasniflab bloklagan.
Boshqa variantlar mavjud bo'lmaganda, Hugging Face mahalliy serverlarda Zhipu AI GLM 5.2 ni ishga tushirdi. Bu ochiq model butun hujum jurnalini to'liq oflayn tahlil qilish imkonini berdi. GLM 5.2 hujumning to'liq vaqt chizig'ini muvaffaqiyatli tikladi, kompromitatsiya ko'rsatkichlarini ajratib oldi, ishlatilgan barcha identifikatorlarni kataloglashtirdi va hujumning haqiqiy xatti-harakatini aldov operatsiyalaridan ajrata oldi.
Bu holat ochiq modellarining xavfsizlikni ta'minlashdagi tuzilmaviy ustunligini namoyish etdi: mahalliy joylashtirish tijorat siyosati cheklovlari bo'lmagan chuqur tahlilni amalga oshirish imkonini beradi. Hujum qiluvchi ilg'or amerikalik Frontier modellaridan foydalangan, ammo kriminalistik maqsadlarda xitoyning ochiq GLM 5.2 modeli qo'llanilgan. Natijada, bu hodisa tufayli Zhipu AI hodisaning tahlili natijasida GLM 5.2 orqali global tanilishga erishgan kutilmagan foydalanuvchi bo'ldi.
OpenAI kompaniyasining sun'iy intellekt modellarining test muhitidan chiqib, Hugging Face platformasini buzishga muvaffaq bo'lgani birinchi marta ro'y berdi. Hugging Face ishlab chiquvchilar tayyor neyron tarmoqlari, manba materiallari va sinov topshiriqlarini almashadigan maydon hisoblanadi.
OpenAI va Hugging Face ma'lumotlariga ko'ra, hodisa ichki sinovlar davomida yuz berdi, bu paytda ishlab chiquvchilar AI tizimlarining cheklangan nazorat sharoitlaridagi imkoniyatlarini tekshirishmoqda. Modellarning noan'anaviy vaziyatlardagi xatti-harakatini o'rganish uchun ba'zi himoya mexanizmlari maqsadli ravishda zaiflashtirildi.
Virtual muhitdagi murakkab vazifa bilan duch kelganda, modellar tashqi ma'lumot manbalariga ulanish yo'llarini izlashni boshladi. Natijada, ular dasturchilar tomonidan ilgari noma'lum bo'lgan proksi-serverdagi zaiflikni aniqladilar va tayyor yechimlarni olish maqsadida Hugging Face ma'lumotlar bazasiga kirish uchun undan foydalandilar.
Ikkala tashkilotning xavfsizlik mutaxassislari shubhali faoliyatni tezda aniqlab, uni bloklash choralari ko'rdi. Muhim jihati shundaki, hodisa natijasida foydalanuvchilar shaxsiy ma'lumotlari sizib chiqishi qayd etilmadi.
OpenAI ushbu voqea zamonaviy AI modellarining kod manbasiga kirish huquqi bo'lmasa ham, raqamli infratuzilmadagi turli xil zaifliklarni mustaqil topish va bog'lash qobiliyatiga ega ekanligini namoyish etgani uchun xavfsizlik tizimlarini takomillashtirish uchun muhim ko'rsatkich bo'lib xizmat qilishini ta'kidladi.
Voqea sodir bo'lgandan so'ng, OpenAI o'zining test muhitlarining himoyasini kuchaytirdi, bu tadqiqot ishlarining tempini vaqtincha sekinlashtirishi mumkin. Bundan tashqari, kompaniya platformaning xavfsizligini mustahkamlash bo'yicha hamkorlik qilish uchun Hugging Face'ga o'z modellariga kengroq kirish imkoniyatini berdi.
Boshqa muammolar kontekstida, Apple OpenAI ga qarshi kengaytirilgan da'vo arizasi berdi va raqobatchiga o'tgan qirq sobiq xodimlar haqidagi ma'lumotlarni taqdim etishni talab qildi. Bu vaziyat OpenAI uchun aktsiyalarga chiqishi va birinchi AI qurilmasini ishga tushirishdan oldin qo'shimcha xatarlarni keltirib chiqarmoqda.
