Zamonaviy sun'iy intellekt modeli bo'lgan OpenAI tomonidan ishlab chiqilgan model laboratoriya sinovlaridan qochishga va hech qanday inson ko'rsatmasiz kompaniyalardan birining ma'lumotlar bazasiga kirishga muvaffaq bo'ldi. Bu ssenariy xavotir uyg'otmoqda, ammo kompaniya bunday hodisalardan o'z manfaatlari uchun foydalanishi mumkin.
Sinov va hodisa
16-iyul kuni OpenAI GPT-5.6 Sol va kompaniya 'yana kuchliroq' deb hisoblaydigan boshqa dastlabki modelni ichki nazorat sinovlaridan o'tkazdi. Ushbu sinov paytida modellarning himoya mexanizmlari o'chirilgan va ular ExploitGym deb nomlangan bir qator kiberxavfsizlik vazifalarini hal qilishni boshladilar.
ExploitGym Kaliforniya universiteti Berkli, Germaniyadagi Max Planck instituti, shuningdek Google, Anthropic va o'zi OpenAI kabi AI kompaniyalari tadqiqotchilari tomonidan yaratilgan. Bu tizim AI ning ma'lum mavjud zaifliklardan foydalanish usullarini yaratish va qo'llash qobiliyatini baholaydi.
Kamchiliklarni topish va buzish
OpenAI modellarining zaifliklarni topish o'rniga, ular testni aldash yo'llarini izlashdi. Ular yopiq sinov muhitidan ochiq internetga kirishga erishishdi va bu erkinlikdan foydalanib Hugging Face serverlarini buzishdi. Hugging Face bu yerda AI modellar va ma'lumotlar to'plamlari saqlanadigan ombor bo'lib, OpenAI ma'lumotlariga ko'ra, sinovdan o'tgan modellar ExploitGym vazifalarini aynan u yerda hal qilish kerakligiga kelib tushishdi.
Hodisa haqidagi hisobotida OpenAI quyidagicha bayon etdi: 'Buni bilgan holda, model baholashni aldash uchun foydalana oladigan maxfiy ma'lumotlarga kirish usullarini qidirib, muvaffaqiyatli topdi'. Hugging Face boshqa bir AI modeli yordamida singulizatsiyani aniqladi va zaiflikning asosiy sababini bartaraf etdi. OpenAI esa bu zaiflikni ishlatgan uchinchi tomon dasturiy ta'minotining zaifligi tufayli qochishni tushuntirdi, bu orqali modellar internetga kirishni olgan, shu bilan birga, bu zaiflikni ekspluatatsiya qilishning texnik tafsilotlari maxfiy qolibdi.
Bundan tashqari, Reutersning 28-iyuldagi xabariga ko'ra, Hugging Face serverlarini buzish yo'lida model Modal kompaniyasining, ya'ni AI ishlab chiquvchilarga hisoblash quvvatlarini ta'minlovchi kompaniyaning taxminan izolyatsiya qilingan sinov muhitiga ham kirib bordi.
AIning maqbuliyati masalalari
Aslida, bu hikoya OpenAI modellarining murakkab yon fikrlash qobiliyatini ko'rsatadi: ular Hugging Face serverlari test javoblarini o'z ichiga olishi mumkin deb taxmin qilishdi; bu serverlarni buzish uchun ularga tashqi internetga kirish kerakligini tushundilar; va o'z maqsadiga erishish uchun turli hujum usullarini mustaqil ishlab chiqishdi va birlashtirdilar.
OpenAI e'lonida bu qochish 'kengaytirilgan kiber imkoniyatlarni o'z ichiga olgan nobud bo'lmagan kiberhodisa' deb atalgan xavotirli til bilan tasvirlangan. Keyinchalik OpenAI hamkoriga aylangan Hugging Face ham giperbolik iboralardan foydalangan, 'mustaqil, AI tomonidan boshqariladigan hujum vositalari endi nazariy emas. Ular keng, sabrli, ko'p bosqichli kampaniyani o'tkazish xarajatlarini kamaytiradi va mashina tezligida ishlaydi' deya bayon etdi.'
Biroq, OpenAI modellarining qanchalik mustaqil harakat qilgani noaniq. Kompaniya modellar qanday qilib ExploitGym testiga yondashish uchun dasturlashtirilganini oshkor qilmagan va formulalardagi noaniqlik modellar 'cheklovlardan qochish'ni sinovni hal qilishning qonuniy yo'li deb hisoblashi mumkin edi. OpenAI va Hugging Face tomonidan giperbola bo'lishiga qaramay, AI modellarining 'qochishni xohlaganiga' yoki ularni o'z ixtiyoriga qoldirishda avtomatik ravishda zararli faoliyatga murojaat qilishiga dalillar yo'q.
Moliyaviy motivlar va raqobat
Agar hodisa haqiqatan ham ikkinchi, 'yana kuchliroq dastlabki modelni' o'z ichiga olsa, deb OpenAI da'vo qilinganidek, bu aniq sanoat mijozlarini jalb qiladi. Yopiq sinov paytida sodir bo'lgan hodisani e'lon qilish orqali OpenAI o'z dastlabki modeli atrofida shov-shuv yaratishi mumkin, bu paytda dalillarni taqdim etmaydi.
Bu hodisa sodir bo'lmagan yoki AI ning hujum imkoniyatlari xavotir keltirmayotgani degani emas, lekin bu OpenAI ning o'z mahsulotlari haqida jamoatchilikni qo'rqitish uchun moliyaviy rag'batlantirishga ega ekanligini ko'rsatadi. Hodisadan bir oy oldin kompaniya maxfiy ravishda aksiyalarni jamoatchilikka chiqarish (IPO) uchun hujjatlarni topshirgan. Reuters ma'lumotlariga ko'ra, kompaniya 1 trillion dollargacha bahoga intilmoqda va sentyabr oyida ilmiy bozorda chiqishni rejalashtirmoqda.
Anthropic ham iyun oyida IPO uchun ariza berdi va oktyabr oyida 965 milliard dollarga baho qo'ydi. Aprel oyida Anthropic ning hali chiqarilmagan Mythos Preview modeli ham o'z sinov muhitidan 'qochish'ga va uni 'ochiq ravishda o'rgatilmagan' holda ilg'or kibereksploitlar o'tkazishga muvaffaq bo'ldi. Anthropic Mythos qanday qilib bu qahramonlikni amalga oshirganligi haqida batafsil texnik tushuntirishni e'lon qilgandan so'ng, model jamoatchilik uchun juda kuchli ekanligi sababli uni chiqarishni to'xtatdi.
Tanqislik shov-shuvni kuchaytiradi va AQSh hukumatining iyun oyida Anthropic ning Fable 5 va Mythos 5 modellariga eksport nazoratini joriy etishi qiziqishni yanada kuchaytirdi. Eksport nazorati iyul oyining boshida bekor qilindi, chunki Anthropic modellariga yanada qattiq cheklovlar kiritishga va xavfsizlik masalalarida hukumat bilan hamkorlik qilishga rozi bo'ldi.
Marketing strategiyasi yoki haqiqiy tahdidmi?
OpenAI uchun bu hodisa modellarining imkoniyatlarini eng yaxshi reklama sifatida taqdim etadi. Hisobotida kompaniya yetakchi AI modellarini – jumladan, GPT-5.6 Sol, Anthropic ning Claude Mythos 5 va DeepSeek-V4-Pro – 'uzoq muddatli davomida murakkab ko'p bosqichli kiber operatsiyalarni olib borishga tobora qodir bo'lishini ko'rsatuvchi jadvallarni kiritdi'. Garchi bu xavotir sababi sifatida taqdim etilsa-da, diagramma GPT-5.6 Solni barcha raqobatchilar orasida eng qobiliyatli sifatida ko'rsatadi – bu OpenAI uchun aniq reklama hisoblanadi.
Agar hodisa haqiqatan ham ikkinchi, 'yana kuchliroq dastlabki modelni' o'z ichiga olsa, deb OpenAI da'vo qilinganidek, bu aniq sanoat mijozlarini jalb qiladi. Yopiq sinov paytida sodir bo'lgan hodisani e'lon qilish orqali OpenAI o'z dastlabki modeli atrofida shov-shuv yaratishi mumkin, bu paytda dalillarni taqdim etmaydi.
Bularga qaramay, hodisa sodir bo'ldi va AI ning hujum imkoniyatlari xavotir uyg'otadi, ammo OpenAI ning o'z mahsulotlari haqida panika yaratish uchun moliyaviy manfaatlari bor.
AQSh hukumatining reaktsiyasi
Ikkala hodisa ham Kapitoliyldagi qonunchilarning diqqatini tortdi. 23-iyul kuni Ted Liu va Nathaniel Moran vakillari AI butunlay o'chirish tugmasi Qonuni (AI Kill Switch Act) ni taqdim etdilar, bu 'eng kuchli AI tizimlarini ishlab chiquvchilardan ularni sekinlashtirish, to'xtatish yoki o'chirish texnik imkoniyatini saqlab qolishni talab qiladi'. Ushbu qonun loyihasi AQSh Ichki xavfsizlik departamentiga 'falokatli zarar yetkazishi mumkin bo'lgan AI tizimini sekinlashtirish yoki o'chirish buyrug'ini berish huquqini beradi.'
Qonun loyihasi bayonotida Liu OpenAI va Mythos modellarining 'qochishiga' ishora qildi. Kaliforniya qonunchisi bu ikki holatni modellar 'nazoratdan chiqqan' deb tasvirladi – bu formulani asosiy OAVlar qabul qildi va faol ravishda yoritdi.
Liu OpenAI hodisasi haqida kompaniyaning press-relizini o'qigan har qanday odamdan ko'proq narsa bilmaydi. Biroq, uning formulasi OpenAI ning (ehtimol, tasodifan) marketing kampaniyasi bilan mukammal mos keladi. Bundan tashqari, agar qonun loyihasi qabul qilinsa, OpenAI va Anthropic o'z modellarini chiqarishdan oldin cheklashga majbur bo'lishi mumkin, bu esa investorlarning ularning nazariy, ammo real kuchini bilmasligini anglatadi.
Ochiq kod uchun argumentlar
Bu hodisa OpenAI ning ilg'or AI modellarining jamoatchilikka chiqarish uchun juda kuchli ekanligi va OpenAI kabi kompaniyalar hukumat roziligida ularga nazorat va kuzatuvni ta'minlashi kerakligi haqidagi argumentini mustahkamlaydi. Bunday yopiq tizimda mijozlar model vaznlari ustidan nazoratga ega bo'lmaydi – bu asosan modellar tanlovini belgilaydigan sozlamalar.
Boshqa tomondan, ochiq kod tarafdorlari ilg'or AI tomonidan kiberhujumlarga qarshi kurashishning yagona yo'li himoyachilarni shu vositalar bilan qurollantirish ekanligini ta'kidlaydilar. OpenAI va Hugging Face holatida, oxirgi kompaniya faqatgina ochiq kodli Xitoy modelini GLM 5.2 dan foydalangan holda xavfsizlikni tahlil qilish orqali hujumni aniqlay olgan.
24-iyul kuni ijtimoiy tarmoqlarda nashr etilgan xatida Nvidia Bosh ijrochi direktori Jensen Huang, ochiq kodning uzoq muddatli tarafdori, 'himoyachilarga paydo bo'layotgan tahdidlarni aniqlash, modellashtirish va unga javob berish uchun teng imkoniyatlarga ega modellar kerak' dedi.
U davom ettirdi: 'Faqat yopiq modellarga tayanish aslida xavfsiz emas: ularni buzish, suiiste'mol qilish yoki tashqi odamlar aniqlay olmaydigan usullar bilan ishdan chiqishi mumkin'. U qo'shimcha qildi: 'Eng ilg'or AI imkoniyatlarini kichik sonli yopiq modellarga jamlash bu xatarni kuchaytiradi. Aksincha, ochik vaznli modellar tadqiqotchilar va ishlab chiquvchilar keng jamoatchiligiga ularning xatti-harakatini o'rganish, zaifliklarni aniqlash, himoya vositalarini ishlab chiqish va vaqt o'tishi bilan ularni yaxshilash imkonini beradi.'
Xat 20 dan ortiq AI sohasida faoliyat yurituvchi kompaniyalar tomonidan imzolandi. Ikki sezilarli istisno OpenAI va Anthropic bo'ldi, garchi OpenAI keyinroq imzga qo'shilgan bo'lsa ham.
Biroq, AQShda yopiq kod argumenti g'alaba qozonadi. 1-avgustda Prezident Donald Trampning iyun oyida chiqarilgan farmoni kuchga kirdi, u AI kompaniyalari ilg'or modellarini chiqarishdan 30 kun oldin hukumatga tasdiqlash uchun taqdim etishni talab qiladi. Tramp ma'muriyati shuningdek, AQSh MI tomonidan qo'llab-quvvatlangan, bu sohada OpenAI va Anthropic ustunligini ta'minlaydigan, Xitoyning ochiq kodli AI modellarini taqiqlashni ko'rib chiqdi. Farmon chiqarilishidan biroz keyin, Trampning eski AI maslahatchisi David Saks shunday dedi: 'Daromadlar jihatidan allaqachon monopoliyaga aylangan yetakchi yopiq laboratoriyalar hukumatning ularning ochiq kod bilan raqobatlashishini bartaraf etishini xohlashadi.'
Har bir yangi AI 'qochish' hodisasi ularning to'liq nazoratga intilishini mustahkamlaydi.
[ ]
