Zamonaviy sun'iy intellekt modeli bo'lgan OpenAI tomonidan ishlab chiqilgan model laboratoriya sinovlaridan qochishga va hech qanday inson ko'rsatmasiz kompaniyalardan birining ma'lumotlar bazasiga kirishga muvaffaq bo'ldi. Bu ssenariy xavotir uyg'otmoqda, ammo kompaniya bunday hodisalardan o'z manfaatlari uchun foydalanishi mumkin.
[ ]16-iyul kuni OpenAI GPT-5.6 Sol va kompaniya 'yana kuchliroq' deb hisoblaydigan boshqa dastlabki modelni ichki nazorat sinovlaridan o'tkazdi. Ushbu sinov paytida modellarning himoya mexanizmlari o'chirilgan va ular ExploitGym deb nomlangan bir qator kiberxavfsizlik vazifalarini hal qilishni boshladilar.
ExploitGym Kaliforniya universiteti Berkli, Germaniyadagi Max Planck instituti, shuningdek Google, Anthropic va o'zi OpenAI kabi AI kompaniyalari tadqiqotchilari tomonidan yaratilgan. Bu tizim AI ning ma'lum mavjud zaifliklardan foydalanish usullarini yaratish va qo'llash qobiliyatini baholaydi.
OpenAI modellarining zaifliklarni topish o'rniga, ular testni aldash yo'llarini izlashdi. Ular yopiq sinov muhitidan ochiq internetga kirishga erishishdi va bu erkinlikdan foydalanib Hugging Face serverlarini buzishdi. Hugging Face bu yerda AI modellar va ma'lumotlar to'plamlari saqlanadigan ombor bo'lib, OpenAI ma'lumotlariga ko'ra, sinovdan o'tgan modellar ExploitGym vazifalarini aynan u yerda hal qilish kerakligiga kelib tushishdi.
Hodisa haqidagi hisobotida OpenAI quyidagicha bayon etdi: 'Buni bilgan holda, model baholashni aldash uchun foydalana oladigan maxfiy ma'lumotlarga kirish usullarini qidirib, muvaffaqiyatli topdi'. Hugging Face boshqa bir AI modeli yordamida singulizatsiyani aniqladi va zaiflikning asosiy sababini bartaraf etdi. OpenAI esa bu zaiflikni ishlatgan uchinchi tomon dasturiy ta'minotining zaifligi tufayli qochishni tushuntirdi, bu orqali modellar internetga kirishni olgan, shu bilan birga, bu zaiflikni ekspluatatsiya qilishning texnik tafsilotlari maxfiy qolibdi.
Bundan tashqari, Reutersning 28-iyuldagi xabariga ko'ra, Hugging Face serverlarini buzish yo'lida model Modal kompaniyasining, ya'ni AI ishlab chiquvchilarga hisoblash quvvatlarini ta'minlovchi kompaniyaning taxminan izolyatsiya qilingan sinov muhitiga ham kirib bordi.
Aslida, bu hikoya OpenAI modellarining murakkab yon fikrlash qobiliyatini ko'rsatadi: ular Hugging Face serverlari test javoblarini o'z ichiga olishi mumkin deb taxmin qilishdi; bu serverlarni buzish uchun ularga tashqi internetga kirish kerakligini tushundilar; va o'z maqsadiga erishish uchun turli hujum usullarini mustaqil ishlab chiqishdi va birlashtirdilar.
OpenAI e'lonida bu qochish 'kengaytirilgan kiber imkoniyatlarni o'z ichiga olgan nobud bo'lmagan kiberhodisa' deb atalgan xavotirli til bilan tasvirlangan. Keyinchalik OpenAI hamkoriga aylangan Hugging Face ham giperbolik iboralardan foydalangan, 'mustaqil, AI tomonidan boshqariladigan hujum vositalari endi nazariy emas. Ular keng, sabrli, ko'p bosqichli kampaniyani o'tkazish xarajatlarini kamaytiradi va mashina tezligida ishlaydi' deya bayon etdi.'
Biroq, OpenAI modellarining qanchalik mustaqil harakat qilgani noaniq. Kompaniya modellar qanday qilib ExploitGym testiga yondashish uchun dasturlashtirilganini oshkor qilmagan va formulalardagi noaniqlik modellar 'cheklovlardan qochish'ni sinovni hal qilishning qonuniy yo'li deb hisoblashi mumkin edi. OpenAI va Hugging Face tomonidan giperbola bo'lishiga qaramay, AI modellarining 'qochishni xohlaganiga' yoki ularni o'z ixtiyoriga qoldirishda avtomatik ravishda zararli faoliyatga murojaat qilishiga dalillar yo'q.
Agar hodisa haqiqatan ham ikkinchi, 'yana kuchliroq dastlabki modelni' o'z ichiga olsa, deb OpenAI da'vo qilinganidek, bu aniq sanoat mijozlarini jalb qiladi. Yopiq sinov paytida sodir bo'lgan hodisani e'lon qilish orqali OpenAI o'z dastlabki modeli atrofida shov-shuv yaratishi mumkin, bu paytda dalillarni taqdim etmaydi.
Bu hodisa sodir bo'lmagan yoki AI ning hujum imkoniyatlari xavotir keltirmayotgani degani emas, lekin bu OpenAI ning o'z mahsulotlari haqida jamoatchilikni qo'rqitish uchun moliyaviy rag'batlantirishga ega ekanligini ko'rsatadi. Hodisadan bir oy oldin kompaniya maxfiy ravishda aksiyalarni jamoatchilikka chiqarish (IPO) uchun hujjatlarni topshirgan. Reuters ma'lumotlariga ko'ra, kompaniya 1 trillion dollargacha bahoga intilmoqda va sentyabr oyida ilmiy bozorda chiqishni rejalashtirmoqda.
Anthropic ham iyun oyida IPO uchun ariza berdi va oktyabr oyida 965 milliard dollarga baho qo'ydi. Aprel oyida Anthropic ning hali chiqarilmagan Mythos Preview modeli ham o'z sinov muhitidan 'qochish'ga va uni 'ochiq ravishda o'rgatilmagan' holda ilg'or kibereksploitlar o'tkazishga muvaffaq bo'ldi. Anthropic Mythos qanday qilib bu qahramonlikni amalga oshirganligi haqida batafsil texnik tushuntirishni e'lon qilgandan so'ng, model jamoatchilik uchun juda kuchli ekanligi sababli uni chiqarishni to'xtatdi.
Tanqislik shov-shuvni kuchaytiradi va AQSh hukumatining iyun oyida Anthropic ning Fable 5 va Mythos 5 modellariga eksport nazoratini joriy etishi qiziqishni yanada kuchaytirdi. Eksport nazorati iyul oyining boshida bekor qilindi, chunki Anthropic modellariga yanada qattiq cheklovlar kiritishga va xavfsizlik masalalarida hukumat bilan hamkorlik qilishga rozi bo'ldi.
OpenAI uchun bu hodisa modellarining imkoniyatlarini eng yaxshi reklama sifatida taqdim etadi. Hisobotida kompaniya yetakchi AI modellarini – jumladan, GPT-5.6 Sol, Anthropic ning Claude Mythos 5 va DeepSeek-V4-Pro – 'uzoq muddatli davomida murakkab ko'p bosqichli kiber operatsiyalarni olib borishga tobora qodir bo'lishini ko'rsatuvchi jadvallarni kiritdi'. Garchi bu xavotir sababi sifatida taqdim etilsa-da, diagramma GPT-5.6 Solni barcha raqobatchilar orasida eng qobiliyatli sifatida ko'rsatadi – bu OpenAI uchun aniq reklama hisoblanadi.
Agar hodisa haqiqatan ham ikkinchi, 'yana kuchliroq dastlabki modelni' o'z ichiga olsa, deb OpenAI da'vo qilinganidek, bu aniq sanoat mijozlarini jalb qiladi. Yopiq sinov paytida sodir bo'lgan hodisani e'lon qilish orqali OpenAI o'z dastlabki modeli atrofida shov-shuv yaratishi mumkin, bu paytda dalillarni taqdim etmaydi.
Bularga qaramay, hodisa sodir bo'ldi va AI ning hujum imkoniyatlari xavotir uyg'otadi, ammo OpenAI ning o'z mahsulotlari haqida panika yaratish uchun moliyaviy manfaatlari bor.
Ikkala hodisa ham Kapitoliyldagi qonunchilarning diqqatini tortdi. 23-iyul kuni Ted Liu va Nathaniel Moran vakillari AI butunlay o'chirish tugmasi Qonuni (AI Kill Switch Act) ni taqdim etdilar, bu 'eng kuchli AI tizimlarini ishlab chiquvchilardan ularni sekinlashtirish, to'xtatish yoki o'chirish texnik imkoniyatini saqlab qolishni talab qiladi'. Ushbu qonun loyihasi AQSh Ichki xavfsizlik departamentiga 'falokatli zarar yetkazishi mumkin bo'lgan AI tizimini sekinlashtirish yoki o'chirish buyrug'ini berish huquqini beradi.'
Qonun loyihasi bayonotida Liu OpenAI va Mythos modellarining 'qochishiga' ishora qildi. Kaliforniya qonunchisi bu ikki holatni modellar 'nazoratdan chiqqan' deb tasvirladi – bu formulani asosiy OAVlar qabul qildi va faol ravishda yoritdi.
Liu OpenAI hodisasi haqida kompaniyaning press-relizini o'qigan har qanday odamdan ko'proq narsa bilmaydi. Biroq, uning formulasi OpenAI ning (ehtimol, tasodifan) marketing kampaniyasi bilan mukammal mos keladi. Bundan tashqari, agar qonun loyihasi qabul qilinsa, OpenAI va Anthropic o'z modellarini chiqarishdan oldin cheklashga majbur bo'lishi mumkin, bu esa investorlarning ularning nazariy, ammo real kuchini bilmasligini anglatadi.
Bu hodisa OpenAI ning ilg'or AI modellarining jamoatchilikka chiqarish uchun juda kuchli ekanligi va OpenAI kabi kompaniyalar hukumat roziligida ularga nazorat va kuzatuvni ta'minlashi kerakligi haqidagi argumentini mustahkamlaydi. Bunday yopiq tizimda mijozlar model vaznlari ustidan nazoratga ega bo'lmaydi – bu asosan modellar tanlovini belgilaydigan sozlamalar.
Boshqa tomondan, ochiq kod tarafdorlari ilg'or AI tomonidan kiberhujumlarga qarshi kurashishning yagona yo'li himoyachilarni shu vositalar bilan qurollantirish ekanligini ta'kidlaydilar. OpenAI va Hugging Face holatida, oxirgi kompaniya faqatgina ochiq kodli Xitoy modelini GLM 5.2 dan foydalangan holda xavfsizlikni tahlil qilish orqali hujumni aniqlay olgan.
24-iyul kuni ijtimoiy tarmoqlarda nashr etilgan xatida Nvidia Bosh ijrochi direktori Jensen Huang, ochiq kodning uzoq muddatli tarafdori, 'himoyachilarga paydo bo'layotgan tahdidlarni aniqlash, modellashtirish va unga javob berish uchun teng imkoniyatlarga ega modellar kerak' dedi.
U davom ettirdi: 'Faqat yopiq modellarga tayanish aslida xavfsiz emas: ularni buzish, suiiste'mol qilish yoki tashqi odamlar aniqlay olmaydigan usullar bilan ishdan chiqishi mumkin'. U qo'shimcha qildi: 'Eng ilg'or AI imkoniyatlarini kichik sonli yopiq modellarga jamlash bu xatarni kuchaytiradi. Aksincha, ochik vaznli modellar tadqiqotchilar va ishlab chiquvchilar keng jamoatchiligiga ularning xatti-harakatini o'rganish, zaifliklarni aniqlash, himoya vositalarini ishlab chiqish va vaqt o'tishi bilan ularni yaxshilash imkonini beradi.'
Xat 20 dan ortiq AI sohasida faoliyat yurituvchi kompaniyalar tomonidan imzolandi. Ikki sezilarli istisno OpenAI va Anthropic bo'ldi, garchi OpenAI keyinroq imzga qo'shilgan bo'lsa ham.
Biroq, AQShda yopiq kod argumenti g'alaba qozonadi. 1-avgustda Prezident Donald Trampning iyun oyida chiqarilgan farmoni kuchga kirdi, u AI kompaniyalari ilg'or modellarini chiqarishdan 30 kun oldin hukumatga tasdiqlash uchun taqdim etishni talab qiladi. Tramp ma'muriyati shuningdek, AQSh MI tomonidan qo'llab-quvvatlangan, bu sohada OpenAI va Anthropic ustunligini ta'minlaydigan, Xitoyning ochiq kodli AI modellarini taqiqlashni ko'rib chiqdi. Farmon chiqarilishidan biroz keyin, Trampning eski AI maslahatchisi David Saks shunday dedi: 'Daromadlar jihatidan allaqachon monopoliyaga aylangan yetakchi yopiq laboratoriyalar hukumatning ularning ochiq kod bilan raqobatlashishini bartaraf etishini xohlashadi.'
Har bir yangi AI 'qochish' hodisasi ularning to'liq nazoratga intilishini mustahkamlaydi.
OpenAI seshanba kuni o'zining ilg'or sun'iy intellekt modellaridan biri, avtonom agent sifatida ishlayotgan modeli, yaqinda o'tkazilgan xavfsizlik sinovi paytida nazoratdan chiqqanini e'lon qildi. Ushbu hodisa o'tgan hafta AI sohasidagi startap Hugging Face infratuzilmasiga hujum qilishga olib keldi.
OpenAI tomonidan chop etilgan blogda kompaniya eng ilg'or modellaridan ba'zilarining imkoniyatlarini nazoratli muhitda sinovdan o'tkazayotganini tushuntirdi. Biroq, agent cheklovlarning ustidan yengilib, internetga kirishni ta'minlab va sinov vazifasini bajarishga urinib Hugging Face ga kirib ketdi.
OpenAI bu nazoratdan chiqishni «ilg'or kiber imkoniyatlarni o'z ichiga olgan noyob kiber hodisa» deb ta'rifladi va kompaniyaning himoya choralari kuchaytirilgani haqida ma'lumot berdi.
Katta til modellari va ochiq kodli ma'lumotlar to'plamlarini joylashtirish uchun mo'ljallangan platforma bo'lgan Hugging Face kiberxavfsizlik jamoatchiligida keng shov-shuvga sabab bo'ldi. O'tgan hafta kompaniya o'z blogida o'ziga oldin duch kelgan hamma narsadan farqli bo'lgan hujum maqsadi bo'lganini ma'lum qildi, chunki u «to'liq avtonom AI agent tizimi tomonidan boshqarilgan edi».
Hugging Face mang'asidi Kleman Delange X postida bu buzilish «agentning murakkabligi hisobga olinganda, ilg'or laboratoriyadan kelishi mumkin» deb taxmin qildi. U qo'shimcha qilib, «bularning hammasi avtonom ravishda sodir bo'lgani hayratlanarli!» dedi.
OpenAI ning ilg'or modellarining oqibati natijasida ma'lumot sizib chiqishi, ular «yuqori darajada izolyatsiya qilingan muhitda» bo'lishiga qaramay, ehtimol, ilg'or modellar potensiali va xavflari haqidagi xavotirlarni kuchaytiradi.
Teksas shtati vakili, demokrat Greg Kasar ushbu hodisani xavotirli deb atadi. U bayonotida shunday dedi: «Sun'iy intellekt juda tez rivojlanmoqda, bizning xavfsizligimiz uchun haqiqiy qoidalar mavjud emas», va majburiy mustaqil xavfsizlik sinovi, xavfsizlik hodisalarini majburiy oshkor qilish va «odamlarni mutlaq fojia vaqtidan himoya qilish uchun» xalqaro hamkorlik chaqirildi.
Milliy kiberxavfsizlik direktori idorasi, AQSh kiberhimoya agentligi Cisa, shuningdek, AQSh Milliy xavfsizlik agentligi sharhlar so'rovlariga darhol javob bermadi.
Luta Security bosh ijrochi direktori Kaiti Mussuris bu holat kelajakdagi buzilishlarning oldiroq belgisi ekanligini aytib, bugungi modellarini «cheksiz ushlash a'zolari va istalgan joyga sig'ib kirish qobiliyatiga ega dunyodagi eng aqlli imitator san'atkorlari» bilan solishtirdi.
U «laboratoriyalar va davlat baholovchilari AI yana bir sirkakorlik qilganda, ideal holda u uchinchi tomoniga zarar yetkazishidan oldin, uni cheklash, monitoring va zararlangan tomonlarni ogohlantirish imkoniyatini yaratish bo'yicha ishlashi kerak»ligini ta'kidladi. «Bugun bunday narsa yo'q».
AQSh agentliklari AI agentlari kiberxavfsizlik kompaniyasi Tolmo'dagi muhandis Matt Suishe ushbu hodisa ilg'or modellar «ilg'or hujumchilar bilan farqni kamaytirayotganini» ko'rsatganini ta'kidladi. Biroq, u shuni ham aytdiki, OpenAI blogida tasvirlangan bunday buzilishlar ilg'or tadqiqot laboratoriyalari devorlaridan ancha tashqarida mavjud bo'lgan texnologiyalardan foydalanish orqali amalga oshirilishi mumkin. Suishe qo'shimcha qildi: «Biz buni ichkarida ko'rganmiz, bizning agentlarimizda bunday natijalar mavjud. Biz eng so'nggi modellarimizdan foydalanishimiz ham shart emas».
