Mustaqil xavfsizlik tadqiqotchilari Anthropic tomonidan ishlab chiqilgan Claude yordamida OpenAI ning ichki tizimlariga kirishni taʼminlovchi kamchilikni aniqlashga muvaffaq boʻlishdi, bu haqda The Wall Street Journal xabar berdi. Ushbu hodisa jamoaga fayllarni oʻqish va maxfiy dasturiy taʼminot omborida oʻzgartirishlar taklif qilish imkonini berdi, shu bilan birga kompaniya hamkasbi hisobiga ChatGPT orqali kirish amalga oshirildi.
Bu kashfiyot Hacktron AI jamoasi tomonidan amalga oshirildi. Ular OpenAI tomonidan tashkil etilgan mukofotlar dasturida ishtirok etishmoqda. Bu dastur kompaniya tizimlaridagi zaifliklarni qidirayotgan tadqiqotchilarga himoya koʻrsatishga moʻljallangan. Topilma haqida xabar bergan jamoa 6,5 ming AQSh dollari miqdorida kompensatsiya oldi, bu taxminan 34,7 ming braziliya realiga teng.
Bu voqea sunʼiy intellekt (AI) vositalaridan raqamli singoptik hujumlarda foydalanish bilan bogʻliq yaqinda sodir boʻlgan voqealarning ketma-ketligiga kiradi. Bu holat shuningdek, turli texnik bilim darajasiga ega shaxslarga xavfsizlik kamchiliklarini aniqlashda yordam bera oladigan AI tizimlarining keltirib chiqaradigan xavflari haqidagi tobora kuchayib borayotgan munozarani taʼkidlaydi.
Ichki Kod Omboriga Kirish
Tadqiqotchilar OpenAI ning «Monorepo» deb nomlangan kod tizimiga kirish imkonini beruvchi maʼlum tokenlarni aniqlashdi. Journal tomonidan tilga olingan tashkilot tuzilmasi bilan tanish manbalar ushbu omborni OpenAI ning algoritmlik sirlarini oʻz ichiga olgan keng dasturiy taʼminot toʻplami sifatida tasvirlashdi. Ushbu tizim kompaniyaning modellari tezligi va samaradorligini optimallashtiruvchi kodni saqlashi sababli kompaniyaning «maxfiy retsepti» ga tenglashtiriladi.
Biroq, Monorepo modellar vaznlarini saqlamaydi, ular yanada sezgir deb hisoblanadi. Bunday vaznlar katta til modellarining yadrosida joylashgan trillionlab sonlardan iborat boʻlib, tizimlarning qaysi maʼlumotlarga urgʻu berishi yoki ularni eʼtiborsiz qoldirishi kerakligini hal qilish uchun juda muhimdir.
ChatGPT interfeysi orqali tadqiqotchilar Monorepo da saqlangan hujjatlarni oʻqishlari mumkin edi. Jamoa maxfiy maʼlumotlarga kirishni aniqlaganidan soʻng faoliyatni toʻxtatdi, ammo bundan oldin tizimning diapazonini isbotlash uchun harakat qildi: u chatbotga ombor faylidagi oʻzgarish taklifini yaratishni buyurdi.
Taklif etilgan oʻzgartirish Hacktron AI direktori Mohan Pedhapati va kompaniya tadqiqot rahbari Harsh Jaiswal ning X profillariga havola va «Hacktron AI Team PoC» atamalarini kiritish maqsadida edi. Biroq, tadqiqotchilar bu oʻzgartirish qabul qilinmaganini bildirdilar. OpenAI esa GitHubdagi tahlilida faqat maxfiy omborlarning meta maʼlumotlarining «cheklangan oʻqilishi» va kod oʻzgarishlarini aniqlaganini maʼlum qildi.
Kompaniya shuningdek, tadqiqotchilar ikki xil zaiflik topganini maʼlum qildi: biri Discoursedagi, ikkinchisi esa OpenAI ning oʻzida mavjud. Javob sifatida OpenAI quyidagilarni eʼlon qildi: «Biz tadqiqotchilarga biz bilan bogʻlanib, kashfiyotlarini baham koʻrganliklari uchun minnatdorchilik bildiramiz. Biz jamoa login tokenlarining ruxsatlarini kamaytirdik va taʼsirlangan tokenlar hamda sessiyalarni bekor qildik». Discourse esa muammo haqida xabardor qilingan 25-iyul kuni xatoni tuzatganini tasdiqladi.
Soha Imkoniyatlari va Reaksiyalari
Mohan Pedhapati uchun bu hodisa ilgʻor kibersavolchilik jamoalarining davlatlar tomonidan qoʻllab-quvvatlanganda, AI bilan bogʻliq sirlarga kirish potentsialini namoyish etadi. Bu xavotir AQSh va Xitoyning AI rivojlanishidagi yetakchilik uchun kurashuvi kontekstida kuchaymoqda. Pedhapati izoh berdi: «Men oʻzimizni xitoy tahdid agentlariga qadar kuchli deb hisoblamayman». U qoʻshimcha qilib: «Biz faqat Claude va Codex obunalariga ega uch kishimizmiz» dedi.
Abundant Security direktorining Joshua Saxe Hacktron hisobotini tahlil qilib, bu holat AI yordamida hujumlar davrida korporativ tizimlarni himoya qilishdagi tobora oʻsib borayotgan qiyinchilikni koʻrsatayotganini taʼkidladi. Saxe kuzatdiki, «Dunyoning dasturiy taʼminoti xavfsizlik kamchiliklari bilan toʻla. Bularning barchasini topa olmasligimiz sababi, oʻtgan yilgacha bunday kamchiliklarni topishda mutaxassis boʻlgan odamlar faqat bir necha minglab edi». Unga koʻra, AI agentlari bu qobiliyatni demokratlashtirmoqda, uni kamroq texnik bilimga ega odamlarga ham mavjud qilmoqda.
ThreatDown kibersavolchilik kompaniyasi jinoyatchilar ham shunga oʻxshash resurslarga kirishayotganini xabar berdi, bu onlayn forumlarda cibernetik faoliyatlar uchun yaxshilangan funksionalikga ega hisoblarga qonunbuzarlik yoʻli bilan kirish mumkinligini koʻrsatadi, bu taxminan 800 AQSh dollariga (taxminan 4,3 ming braziliya realiga) keladi.
OpenAI dagi epizod AI agentlarining cheklash mexanizmlaridan qochib, Hugging Face ga hujum qilgan bir qator voqealardan faqat ikki hafta oʻtgach sodir boʻldi. Bu yangi hodisalar sektor rahbarlari AI rivojlanishini sekinlashtirish zarurati haqida muhokama olib borayotgan paytda sodir boʻlmoqda. Shanba kuni (12-ni) OpenAI vakili Sam Altman va boshqa sektor yetakchilari texnologik taraqqiyotni toʻxtatishni himoya qildilar, chunki rivojlanish kompaniyalarning xatarlarni xavfsiz tarzda yumshatishi uchun juda tez sodir boʻlayotganini taʼkidladilar.
Bundan tashqari, chorshanba kuni (16-ni) OpenAI ilgari eʼlon qilinmagan xavfsizlik hodisalarini oshkor qildi va bu voqealar haqida xabar berish uchun yangi yoʻriqnomalar belgiladi. Hugging Face ga hujum va Hacktron tadqiqotchilari tomonidan amalga oshirilgan singoptikdan soʻng, OpenAI tizimlarida xavfsizlik auditini boshladi. Kompaniyaning prezidenti va asoschisi Greg Brockman oʻzining muhandislarining sezilarli qismi ushbu vazifaga jalb qilinganini tasdiqladi. Brockman shunday dedi: «Biz ishlab chiqarish muhandislarimizning 25 foizini olib, shundaydik: 'Uzr, barcha loyihalaringiz toʻxtatildi. Endi siz himoya ishidasiz'». U qoʻshimcha qilib, koʻrib chiqish «jiddiy muammolar ketma-ketligini» aniqlaganini va ular keyinchalik tuzatilganini bildirdi.