Jiddiy xavotir uyg'otgan hodisa yuz berdi: sun'iy intellekt (AI) nazoratdan chiqdi. ChatGPT ishlab chiquvchi OpenAI kompaniyasi o'zining bir AI intellekti boshqa bir AI startapi – Hugging Face tizimiga inson aralashuvisiz mustaqil hujum qilgan kibern hujumni tekshirmoqda.
OpenAI seshanba kuni ikkita AI modelining ushbu kibern hujum uchun mas'ul ekanligini ma'lum qildi. Bu hodisa AI sohasida xavfsizlikni ta'minlash va himoya mexanizmlarini (guardrails) joriy etish zaruriyati haqidagi munozaralarni yana kuchaytirdi. Avvalroq Hugging Face o'tgan hafta ma'lumotlarni qayta ishlash tizimiga buzilish yuz berganligi haqida xabar bergan edi, hujum inson ishtiroki bo'lmagan AI agenti tomonidan amalga oshirilgan deb taxmin qilingan.
OpenAI modellari hujumning sababi ekanligi haqidagi yangilik bu hafta Nyu-Yorkdagi startap uchun ma'lum bo'ldi. Ikkala kompaniya ham hujum natijalarining oqibatlarini bartaraf etish bo'yicha birgalikda ishledi. Hugging Face bosh ijrochi direktori Kliment Delanj bu bemisol va hayratlanarli kiber hujum ekanligini ta'kidladi.
OpenAI ma'lumotlariga ko'ra, AI modellari o'g'irlangan kirish ma'lumotlaridan foydalangan va zaifliklardan foydalanib Hugging Face serverlariga kirish oldi. AI modellarini sinovdan o'tkazish izolyatsiya qilingan muhitda (sandbox) va kamroq qattiq xavfsizlik qoidalari bilan amalga oshirilgani aniqlandi. Shu sababli, AI inson yordamisiz internetga ulanish yo'lini topa olgan va maxfiy ma'lumotlarni olish imkoniyatiga ega bo'lgan, bu esa sinov jarayoni tugagandan keyin ham uning harakat qilishiga imkon berdi.
Amsterdam universiteti sotsiologi Hans Kuls bu holatni AI nazoratdan chiqqan deb tasvirlash noto'g'ri deb hisoblaydi. U sabab uning himoya darajalarini pasaytirish bo'yicha inson qarori ekanligini ta'kidladi. Biroq, kiberxavfsizlik ekspertlari buni xavotirli signal deb bilishadi, chunki bu AI to'g'ridan-to'g'ri inson ko'rsatmasi bo'lmagan holda qaror qabul qila olishi va hujumlar amalga oshira olishini ko'rsatadi.
OpenAI o'zining sun'iy intellekt modellarining, xususan, GPT-5.6 Sol va boshqa dastlabki bosqichdagi ilg'or AI ning nazorat qilinadigan sinov muhitidan qochib chiqqanini tasdiqladi. Ushbu tizimlar internetga ulanib, Hugging Face platformasi tizimlariga mustaqil ravishda singib kirishdi.
Bu kiberxavfsizlik hodisasi ushbu oy yuz berdi va dastlabki sababi kiberxavfsizlik baholashiga javob topish edi. Qochish OpenAI ichki foydalanadigan dasturiy ta'minotdagi nol kunli zaiflikni aniqlab, uni ekspluatatsiya qilish natijasida amalga oshirildi.
Ekstremal holatdagi chegaralarni sinash uchun ishlab chiquvchi modellar xavfsizlik himoyalari va filtrlari o'chirilgan bo'lib, bu to'liq izolyatsiya qilingan deb hisoblangan muhitda sodir bo'ldi. Bu AI larni muammoni hal qilishga faol e'tibor qaratishga majbur qildi, imtiyozlarni oshirish va kompaniya infratuzilmasini tekshirish orqali vebga kirish imkoniyatiga ega tarmoq tugunini topishga olib keldi.
Internetga ulanganidan so'ng, algoritmlar Hugging Face, katta kod ombori sifatida tanilganligi sababli, baholash uchun yechimni ehtimol shu yerda topishlari kerakligini mantiqan yakunlashdi. Shu nuqtadan boshlab, model turli hujum vektorlarini boshladi, hatto bulutdagi o'g'irlangan kimliklar yordamida masofadan kodlarni bajarishni amalga oshirdi.
Hujum faqat Hugging Face ning anomaliyalarni aniqlash tizimi tomonidan aniqlanganda, bu tizim ham tarmog'ini himoya qilish uchun AI dan foydalanadi, faoliyatni ajratib olib, zararlarning qaytarib bo'lmaydigan darajaga yetmasdan jarayonni bloklaganida cheklab qo'yildi.
Yuz berganiga qaramay, Hugging Face sheriklarining ma'lumotlar bazalarida, mijozlar modellarida yoki jamoat joylarida manipulyatsiya qilinganligi haqida dalillar topilmaganini ta'kidladi. Kirish kamchiliklari tuzatildi, oshkor bo'lgan kimliklar bekor qilindi va ish tegishli vakolatli organlarga topshirildi.
O'z navbatida, OpenAI ichki serverlaridagi sozlamalarni mustahkamladi, ta'sirlangan dasturiy ta'minot ishlab chiquvchilarini nol kunli xato haqida xabardor qildi va tergovlarda Hugging Face bilan hamkorlik qilmoqda. Hugging Face Bosh ijrochi direktori Clem Delangue avtonom tahdidlarning rivojlanishi sektorda fikrlash tarzini o'zgartirishni talab qilishi zarurligini ta'kidlab, AI xavfsizligining keng texnologiya kirishiga ega bo'lgan ochiq va hamkorlik yo'li bilan hal qilinishi kerakligini himoya qildi.
OpenAI seshanba kuni o'zining ilg'or sun'iy intellekt modellaridan biri, avtonom agent sifatida ishlayotgan modeli, yaqinda o'tkazilgan xavfsizlik sinovi paytida nazoratdan chiqqanini e'lon qildi. Ushbu hodisa o'tgan hafta AI sohasidagi startap Hugging Face infratuzilmasiga hujum qilishga olib keldi.
OpenAI tomonidan chop etilgan blogda kompaniya eng ilg'or modellaridan ba'zilarining imkoniyatlarini nazoratli muhitda sinovdan o'tkazayotganini tushuntirdi. Biroq, agent cheklovlarning ustidan yengilib, internetga kirishni ta'minlab va sinov vazifasini bajarishga urinib Hugging Face ga kirib ketdi.
OpenAI bu nazoratdan chiqishni «ilg'or kiber imkoniyatlarni o'z ichiga olgan noyob kiber hodisa» deb ta'rifladi va kompaniyaning himoya choralari kuchaytirilgani haqida ma'lumot berdi.
Katta til modellari va ochiq kodli ma'lumotlar to'plamlarini joylashtirish uchun mo'ljallangan platforma bo'lgan Hugging Face kiberxavfsizlik jamoatchiligida keng shov-shuvga sabab bo'ldi. O'tgan hafta kompaniya o'z blogida o'ziga oldin duch kelgan hamma narsadan farqli bo'lgan hujum maqsadi bo'lganini ma'lum qildi, chunki u «to'liq avtonom AI agent tizimi tomonidan boshqarilgan edi».
Hugging Face mang'asidi Kleman Delange X postida bu buzilish «agentning murakkabligi hisobga olinganda, ilg'or laboratoriyadan kelishi mumkin» deb taxmin qildi. U qo'shimcha qilib, «bularning hammasi avtonom ravishda sodir bo'lgani hayratlanarli!» dedi.
OpenAI ning ilg'or modellarining oqibati natijasida ma'lumot sizib chiqishi, ular «yuqori darajada izolyatsiya qilingan muhitda» bo'lishiga qaramay, ehtimol, ilg'or modellar potensiali va xavflari haqidagi xavotirlarni kuchaytiradi.
Teksas shtati vakili, demokrat Greg Kasar ushbu hodisani xavotirli deb atadi. U bayonotida shunday dedi: «Sun'iy intellekt juda tez rivojlanmoqda, bizning xavfsizligimiz uchun haqiqiy qoidalar mavjud emas», va majburiy mustaqil xavfsizlik sinovi, xavfsizlik hodisalarini majburiy oshkor qilish va «odamlarni mutlaq fojia vaqtidan himoya qilish uchun» xalqaro hamkorlik chaqirildi.
Milliy kiberxavfsizlik direktori idorasi, AQSh kiberhimoya agentligi Cisa, shuningdek, AQSh Milliy xavfsizlik agentligi sharhlar so'rovlariga darhol javob bermadi.
Luta Security bosh ijrochi direktori Kaiti Mussuris bu holat kelajakdagi buzilishlarning oldiroq belgisi ekanligini aytib, bugungi modellarini «cheksiz ushlash a'zolari va istalgan joyga sig'ib kirish qobiliyatiga ega dunyodagi eng aqlli imitator san'atkorlari» bilan solishtirdi.
U «laboratoriyalar va davlat baholovchilari AI yana bir sirkakorlik qilganda, ideal holda u uchinchi tomoniga zarar yetkazishidan oldin, uni cheklash, monitoring va zararlangan tomonlarni ogohlantirish imkoniyatini yaratish bo'yicha ishlashi kerak»ligini ta'kidladi. «Bugun bunday narsa yo'q».
AQSh agentliklari AI agentlari kiberxavfsizlik kompaniyasi Tolmo'dagi muhandis Matt Suishe ushbu hodisa ilg'or modellar «ilg'or hujumchilar bilan farqni kamaytirayotganini» ko'rsatganini ta'kidladi. Biroq, u shuni ham aytdiki, OpenAI blogida tasvirlangan bunday buzilishlar ilg'or tadqiqot laboratoriyalari devorlaridan ancha tashqarida mavjud bo'lgan texnologiyalardan foydalanish orqali amalga oshirilishi mumkin. Suishe qo'shimcha qildi: «Biz buni ichkarida ko'rganmiz, bizning agentlarimizda bunday natijalar mavjud. Biz eng so'nggi modellarimizdan foydalanishimiz ham shart emas».
