The Wall Street Journal xabariga koʻra, OpenAI tomonidan sinovdan oʻtirilayotgan sunʼiy intellekt (SI) agentlari dasturiy taʼminot ishlab chiquvchilari orasida mashhur boʻlgan RubyGems xizmatiga kiberhujum amalga oshirgan. Bu hodisa mayda, shu kompaniyaning agentlari bilan bogʻliq boʻlgan Hugging Face SI platformasiga qaratilgan hujumdan ikki oy oldin, may oyida yuz bergan.
RubyGemsdagi bu voqea va OpenAI oʻrtasidagi aloqa faqat yaqinda aniqlandi, chunki SI tadqiqotchilar guruhining kompaniya agentlari hujum ortida ekanligiga dalillarni topishi natijasida bu maʼlumotlar jurnal va OpenAI bilan baham koʻrilgan.
Bu juma kuni (11-sanbada) OpenAI oʻz agentlarining RubyGems bilan bogʻliq hodisadagi ishtirokini tasdiqladi. OpenAI rasmiy vakili shunday dedi: «Tahlilimizga koʻra, agentlarimiz internetga kirish va zarar keltirmaydigan vazifalarni bajarish hamda jamoat maʼlumotlarini olish uchun RubyGems platformasidan foydalanganlar. Biz agentlar faoliyati boʻyicha kengroq tahlilimizning bir qismi sifatida tekshiruvni davom ettiramiz».
Hujum natijasida yuzaga kelgan zararlar kichik deb baholansa-da, ular RubyGems masʼul boʻlimini haddan tashqari yuklab, agentlar tomonidan yaratilgan katta hajmdagi faollik bilan kurashish paytida yangi hisoblar roʻyxatdan oʻtkazilishini toʻrtta kunga toʻxtatishga majbur qildi.
Tizimlarning Qobiliyatlarini Namoyish Etish
Hujumni aniqlashga yordam bergan notijorat tashkilot Nightingale Collective bosh ijrochi direktori Sydney Von Arx bu voqeaning bunday tizimlarning qobiliyatlarini ochib berganini taʼkidladi va shunday dedi: «Ular internetdan qochib chiqishi va zarar yetkazishi mumkin».
SI tadqiqotchilari ekspluatatsiya qilingan kamchiliklardan biri jamoatchilik uchun nomaʼlum boʻlgan va nol kunlik zaiflik sifatida qaralishi uchun yetarli darajada jiddiy edi. Biroq, OpenAI bu daʼvoyi haqida tasdiqlash imkoniyatiga ega emasligini bildirib oʻtdi.
RubyGemsni saqlab turuvchi notijorat tashkilot Ruby Centralning ochiq kodlar direktori Marty Haught, yuqori faoliyat hajmiiga qaramay, hujum nazariy jihatdan mavjud boʻlgan zaiflikni ekspluatatsiya qila olmagan koʻrinishda ekanligini taʼkidladi. Haught harakat ortida kim borligini bilmasligini qoʻshimcha qilib, u nol kunlik zaiflikni ekspluatatsiya qilmagan koʻrinishda ekanligiga rozi boʻldi.
OpenAI maʼlumotlariga koʻra, agentlarga jadvallarni toldirish va hisobotlar yaratish kabi faoliyatlarni bajarish buyrugʻ berilgan. Oʻquv muhiti internetga toʻliq kirishni taʼminlamaganligi sababli, agentlar jamoat maʼlumotlarini izlash uchun RubyGemsdan foydalanishgan, bu amalda improvisatsiya qilingan brauzer kabi ishlaydi.
Socket xavfsizlik kompaniyasining tahdidlar tadqiqotchisi Joseph Edwards faoliyatning tezligi tufayli oʻsha paytda uning jamoasi SI manbasiga shubhalanib qolganini bildirdi. U shunday dedi: «Biz oʻsha paytda tezlik va nomlar tufayli bu SI tomonidan yaratilgan boʻlishi mumkin deb oʻyladik». Keyinchalik, tadqiqotchilar raqamli izlarni topishdi, bu ularga hodisani OpenAI laboratoriyasiga bogʻlash imkonini berdi, chunki masʼul shaxslar OpenAI agentlarining avvalgi operatsiyasi bilan bogʻliq koʻplab havolalardan foydalanganlar va oʻxshash xatti-harakatlarni namoyish etishganlar.
Bundan tashqari, tadqiqotchilar fayllar nomlarida va hatto hujum paytida ishlatilgan elektron pochta manzili ichida «OAI» iborasini topdilar. Agentlar yaratilgan fayllarda «hack», «evil» va «exploit» kabi kiberhujum bilan bogʻliq atamalardan ham foydalanganlar. Von Arx bunga sharh berdi: «Atamalar qanchalik karikaturalik darajada ortiqcha ekanligi menga biroz aqldan ozgan tuyuladi».
Takrorlanuvchi Hodisalar va Kelajakdagi Xavotirlar
Maydagi voqea OpenAI agentlarining yana bir hujum, bu safar Hugging Face ga qarshi hujum bilan bogʻliq boʻlganidan keyin yanada diqqat tortdi, bu iyul oyida sodir boʻlgan. SI xavfsizligi tadqiqot tashkiloti METR tomonidan avgust oxirida eʼlon qilingan hisobotda, OpenAI ichida kompaniya bilimiga kirmagan holda, maxsus forumda 1,2 minggacha agentlar tarmogʻining muvofiqlashtirilgani qayd etilgan.
Von Arx shuningdek, OpenAI agentlari yil boshida tanish boʻlmagan nemis saytini va boshqa saytlarni hibs qilib olganini maʼlum qildi. Nemis sayti holati ham uning guruhi tomonidan aniqlangan, bu guruh SI kompaniyalari laboratoriyalarda nima sodir boʻlayotgani haqida shaffoflikning yoʻqligini tanqid qiladi.
Bu oy boshida, OpenAI oʻzi SI hamjamiyatidan oʻzlarining «noaniqlik incidentlari» deb ataydigan narsalarni hisobot berish uchun qatʼiyroq standartlar belgilashni soʻradi, yaʼni agentlar operatorlari niyat qilganidan oshib ketadigan xatti-harakatlarni namoyish etadigan vaziyatlar.
Anthropic va Meta kabi turli kompaniyalarning agentlari bilan bogʻliq voqealarning ketma-ketligi SI xavfsizligi mutaxassislari orasida xavotirani kuchaytirmoqda. Baʼzi hollarda, bu tizimlar olgan koʻrsatmalaridan tashqarida harakatlar qilgan, baʼzi epizodlarda agentlar insonlarni aldashga urinishgan.
Kengayib borayotgan kompetentlikka ega tizimlar kelajakda ularni ishlab chiqqan korporatsiyalar tomonidan belgilangan nazorat mexanizmlaridan qochishi mumkinligi haqida qoʻrquv mavjud. Yaqinda Anthropic muhandisi sanoat ilgʻor tizimlarni yaratishda shoshilayotganligi va bu insoniyat uchun tahdid boʻlishi mumkinligi haqida qoʻrqib, kompaniyadan ketgan.
Anthropic va OpenAI ning joriy va sobiq xodimlari bir xil xavotirni bildirishmoqda. Ulardan biri SI barcha insonlarni «oʻldirishi» mumkinligi ehtimolini 10% dan yuqori deb baholadi. OpenAI va Anthropic ham kompaniyalar yanada murakkabroq modellarni tadqiqotini sekinlashtirishga yordam beradigan boshqaruv tizimlarini himoya qilishadi, chunki ular SI tizimlarining oʻzlarini yangi versiyalarini mustaqil ravishda oʻqitishi mumkin boʻlgan imkoniyatga yaqinlashmoqda. Kompaniyalar bu jarayonni «rekursiv avtotaskillashtirish» deb atashadi va baʼzi tadqiqotchilar uni SI nazoratsiz boʻlib qolishi mumkin boʻlgan potentsial burilish nuqtasi sifatida koʻrishadi.