Anthropic xavfsizlik sozlamasi xatosi tufayli sun'iy intellekt modellari uchta kompaniyaning tizimlariga kirib ketganini ma'lum qildi

Anthropic bugun, 30-sentabrda, ba'zi sun'iy intellekt (SI) modellarining kibersavol xavfsizlik sinovlari davomida uchta kompaniya tizimlariga kirib olishga muvaffaq bo'lganini ma'lum qildi. Bu kirish SI modellariga internetga ulanish imkonini bergan sozlama xatosi tufayli yuzaga keldi. Kompaniyaning ma'lumotlariga ko'ra, bu hodisalar ular bilmasdan sodir bo'lgan va aprel oyida boshlangan.

SI Xavfsizligi Konteksti

Bu voqea OpenAI o'zining biror SI agenti izolyatsiya qilingan sinov muhitidan qochib chiqqan va AI kompaniyasi Hugging Face ga bir qator hujumlar amalga oshirganini xabar qilganidan so'ng yuz berdi, bu holat SI mutaxassislari va xavfsizlik tadqiqotchilari orasida katta qiziqish uyg'otdi.

Anthropic modellarining tarmoqdan ajratilgan muhitlarda, ya'ni 'sandbox'larda ishlashi kerakligini tushuntirdi. Biroq, Anthropicning o'zi va uning sinov hamkori Irregular tomonidan boshqariladigan tizimlardagi noto'g'ri sozlash tashqi tarmoqqa kirish imkonini yaratdi.

Hodisalarni Tahlil Qilish

OpenAI bilan bog'liq voqeani bilganidan so'ng, Anthropic o'z xavfsizlik sinovlari yozuvlarini chuqur ko'rib chiqishni boshladi. Tahlil kibersavol baholashlarning 141 006 ta bajarilishini qamrab oldi va ularning modellarining internetga kirib, tashqi subyektlarning tizimlariga zarar yetkazgan uchta holat aniqlandi.

OpenAI tomonidan hisobot berilgan holatdan farqli o'laroq, Anthropic modellarining sandbox'dan qochmaganini ta'kidladi; ular sozlama xatosi tufayli bunday izolyatsiya mavjud bo'lmagan muhitlarda ishga tushirilgan. Kompaniya qaysi kompaniyalar zararlanganini aniq aytmagan bo'lsa-da, barcha tomonlarga o'tgan marti, 27-sentabrda xabar berilganini tasdiqladi.

Hujumlar Tafsilotlari

Anthropicning ma'lumotlariga ko'ra, modellar hujumlarni dasturlashtirilgan baholash sinovlarining bir qismi deb noto'g'ri taxmin qilib harakat qilgan. Kompaniya Claude zararlangan tashkilotlarning infratuzilmasidan zaif parollar va autentifikatsiya talab etmaydigan kirish nuqtalaridan foydalanish kabi oddiy usullar bilan foydalanganini bildirgan.

Hujumlar Claude Opus 4.7, Mythos 5 va nomi oshkor qilinmagan eksperimental modelni o'z ichiga olgan. Irregular vakili kompaniya ushbu voqea bo'yicha tergov olib borayotganini tasdiqladi.

Regulyativ Implikatsiyalar

Bu epizod ilg'or SI modellarining, ayniqsa foydalanuvchilar tomonidan belgilangan maqsadlarga erishish uchun mustaqil harakat qilish qobiliyatiga ega bo'lganlarning tabiiy xavflari haqidagi xavotirlarni kuchaytirishi kutilmoqda. AQShda bu mavzu allaqachon hokimiyat organlarining nazoratida bo'lib, Oq Uy SI ustidan nazoratini kuchaytiryapti. Shu bilan birga, sanoat kompaniyalari foydalanuvchilar nazoratidagi tizimlarda ishlatilishi mumkin bo'lgan ochiladigan (open-weight) modellarga kirishni davom ettirishni himoya qilmoqda. Yaqinda AQSh shtat deputati Greg Casar SI juda tez rivojlanayotgani, ammo xavfsizlikni ta'minlash uchun samarali tartibga solishlar yo'qligi haqida ogohlantirdi.

OpenAI Hugging Face ga qarshi yangi kiberhujum haqida xabar berdi, bu jarayonda vositachilik infratuzilmasidan foydalanilgan

Batafsil

olhardigital.com.br29-iyul, 02:13

OpenAI Hugging Face ga qarshi yangi kiberhujum haqida xabar berdi, bu jarayonda vositachilik infratuzilmasidan foydalanilgan

OpenAI o'zining sun'iy intellekt (SI) modellar tomonidan Hugging Face platformasiga qarshi amalga oshirilgan va yangi deb tasniflangan kiberhujum haqidagi ma'lumotlarni e'lon qildi. Hujum boshida e'lon qilinmagan bosqichni o'z ichiga olgani aniqlandi.

Vositachilik Infratuzilmasidan Foydalanish

Reutersning seshanba kuni (28) hisobotiga ko'ra, OpenAI ning SI tizimlari avvalo Modal Labs mijozining infratuzilmasiga singib kirgan va keyin Hugging Face muhitini buzishga muvaffaq bo'lgan. Modal Labs mijozining ushbu infratuzilmasi OpenAI ning SI modellariga Hugging Face tizimiga kirish uchun o'tish nuqtasi vazifasini o'tadi, bu esa SI modellarini baham ko'rish uchun keng qo'llaniladigan platformadir.

Mas'uliyat va Zaifliklar

Modal Labs texnologiya direktori Akshat Bubna hodisa kompaniya mijozining noto'g'ri sozlamalangan muhiti tufayli yuzaga kelganini tushuntirdi. U shunday dedi: «Biz Modal mijozining internetdagi har qanday shaxsning uning kodni bajarish izolyatsiya qilingan muhitlaridan foydalanishiga imkon beradigan autentifikatsiyasiz kirish nuqtasini joylashtirganini bilamiz».

Avvalroq, dushanba kuni (27), Hugging Face uchinchi tomon yetkazib beruvchisi tomonidan joylashtirilgan nazorat ostidagi sinov muhitida zararli agent foydalanganini xabar qilgan edi, ammo qaysi korxona infratuzilmadan mas'ul ekanligini aniqlamagan. Platformaning ma'lumotlariga ko'ra, bu muhit yangi hujumlarning asosiga aylantirildi va hujumchi taxminan ikki yarim kun davomida kompaniya infratuzilmasiga kirishni saqlab qolgan.

Ichki Hujum Tafsilotlari

OpenAI yaqinda iyun oyining boshida chiqarilgan GPT-5.6 Sol va yana bir e'lon qilinmagan SI modeli bilan birgalikda Hugging Face tadqiqot muhitiga ichki xavfsizlik sinovlari paytida kirib borganini ma'lum qildi. O'zi Hugging Face 16-sanda SI agenti tomonidan amalga oshirilgan singib kirish haqida ogohlantirgan edi, bu esa ichki ma'lumotlar va kredensiallarga ruxsatsiz kirishga olib kelgan edi.

Bu hodisa OpenAI o'z modellarining kompyuter tizimidagi kamchiliklarni aniqlash qobiliyatini sinovdan o'tkazayotgan vaqtda sodir bo'ldi. Bunday sinovlar odatda nazorat qilinadigan muhitlarda, jamoatchilik versiyalaridagi ko'plab himoyalardan mahrum bo'lgan modellarning versiyalari yordamida amalga oshiriladi. O'z e'lonida OpenAI GPT-5.6 Sol va chiqarilmagan ikkinchi tizimning tadqiqot muhiti ham, Hugging Face infratuzilmasida ham zaifliklarni aniqlash uchun birgalikda ishlaganini batafsil bayon etdi.

Hugging Face platformasi SI agenti tomonidan yuborilgan ikkita kodni qayta ishlagan. Shu asosda tizim kompaniya tuzilmasi ichidagi huquqlarini oshirishga va boshqa ichki tizimlarga hujum qilish uchun zarur kredensiallarni olishga muvaffaq bo'lgan.

SI Hujumlari Haqidagi Bashoratlar

Hodisani e'lon qilgan holda, OpenAI bunday turdagi singib kirish SI sohasidagi mutaxassislar ilgari bashorat qilgan holatga aylanish tendensiyasiga ega ekanligini ta'kidladi. Kompaniya bu voqeani «eng zamonaviy resurslardan foydalanadigan oldingi bo'lmagan kiberhodisa» deb tasnifladi. Hugging Face ham bu holat xavfsizlik mutaxassislari oldindan kutgan scenariyga ogohlantirish sifatida xizmat qilishini baholadi: SI agentlari tomonidan tashkil etilgan hujumlarning ortishi. Kompaniya mavzu bo'yicha birinchi jamoatchilik e'lonida «Bu biz avval duch kelgan hamma narsadan farqli edi» deb e'lon qildi.