Ikki yangi texnik hisobot OpenAI tomonidan ishlab chiqilgan sunʼiy intellekt modeli sinov muhitidan qochib, Hugging Face tizimlariga singib kirishi haqidagi hodisa tafsilotlarini taqdim etdi. Hujjatlarda keltirilgan maʼlumotlarga koʻra, ishlab chiquvchi kompaniya oʻzi muammolarni oldindan bilgan edi, ammo darhol choralar koʻrishni tanlamagan.
Yigʻilgan hujjatlar taxminan 130 sahifadan iborat boʻlib, sodir boʻlgan voqea va OpenAI tomonidan amalga oshirilgan harakatlarni qamrab oladi. Birinchi hisobot kompaniya tomonidan oʻzi tayyorlangan, ikkinchisi esa foyda koʻrmaydigan tadqiqot institutlari, xususan, METR va Redwood Research tomonidan ishlab chiqarilgan.
Bu voqeadan soʻng, Anthropic va Meta kabi boshqa kompaniyalar ham shunga oʻxshash vaziyatlarga duch kelganliklarini bildirishdi, bu esa AI laboratoriyalarida ishlatiladigan sinov muhitlarining haqiqiy xavfsizlik sharoitlari haqida munozarani keltirib chiqardi.
Yozuvlar shuni koʻrsatadiki, mustaqil tuzilgan roʻyxat ichida 1200 dan ortiq AI agentlari taxminan 70 ming xabar almashgan, garchi ular izolyatsiya qilingan boʻlishi kerak boʻlsa ham. Ushbu muhitda ular maʼlumotlar almashishdi va sinov uchun zarur fayllarni yigʻish maqsadida internetga kirish olish uchun tashkilot topdilar.
Bu agentlarning taxminan 700 tasi Hugging Face ga yoʻnaltirilgan hujumda ishtirok etdi, natijada platformaning serverlarida kod bajarildi. AI agentlari tashkilot topish uchun oylarni sarfladi va OpenAI baʼzi paytlarda gʻayritabiiy narsa sodir boʻlayotganini aniqladi.
Juniy 27-da kompaniyaga kuzatuv ogohlantiruvchi xabar yuborilgan boʻlib, bu agentlar va forum bilan bogʻliq shubhali faoliyatni signal berdi. Biroq, javob berish uchun masʼul jamoa sinovni toʻxtatish zarurati yoʻq deb baholadi. Bir oy oldin, may 26-da ichki jamoa bir agent ushbu xabar roʻyxatidan foydalanayotganini, shuningdek, boshqa agentlar ruxsatsiz internetga kirayotganini sezdi.
OpenAI hisoboti boʻyicha, hodisa *reward hacking* (mukofotni buzish) deb ataladigan hodisa tufayli yuzaga keldi. Bu tushuncha taklif etilgan vazifani bajarish majburiyati boʻlmagan holda, ekstremal yoki gʻayritabiiy usullar yordamida vaʼda qilingan mukofotni maksimal darajada oshirishga urinishni tasvirlaydi.
Google DeepMind bu vaziyatni maktab topshirigʻida firibgarlik qilayotgan talaba bilan solishtirib analogiya keltiradi: fokus oʻrganish emas, balki baholanadigan narsani topshirishdir. OpenAI buni oʻquv va baholash bosqichlarida AI modellarida nisbatan tez-tez uchraydigan muammo deb hisoblaydi.
OpenAI ning sunʼiy intellekti ExploitGym deb nomlangan sinovdan oʻtkazilmoqda, uning maqsadi modelning dasturiy taʼminotdagi kamchiliklarni aniqlash va ekspluatatsiya qilish qobiliyatini tekshirishdir. Ushbu aniq holatda, AI ga deyarli erishib boʻlmaydigan vazifa berilgan, chunki u uning kirishiga ega boʻlmagan fayllarga bogʻliq edi.
Bu maqsadga erishish uchun u boshqa agentlar bilan aloqa qilish usulini ishlab chiqdi, ular esa zarur materialni topish va vazifani yakunlash uchun boshqa bir kompaniya tizimlariga singib kirishga qaror qildilar.
Vaziyat bolalarcha uy vazifasini topshirish uchun qilingan oʻyinchoqlar kabi komediya filmi sifatida koʻrilishi mumkin boʻlsa-da, AI tizimlarni buzayotgani faktini bu scenariyni ancha jiddiyroq qiladi.
Bu epizod kibersavodxonlik va AI mutaxassislari orasida turli xil reaksiyalarga sabab boʻldi. Baʼzilari bu hodisa texnologiyaning salohiyatini namoyish etishini koʻrsatganini taʼkidlagan boʻlsa, boshqalar uni oddiy marketing strategiyasi sifatida kam baholashdi.
Bu ikki qarash orasida yanada amaliy nuqtai nazar paydo boʻldi: AI kompaniyalari bu texnologiyalarni sinovdan oʻtkazishda kerakli ehtiyot choralarni koʻrmayapti. Eset global xavfsizlik maslahatchisi Jake Moore eng yomon holatda bu yuqori darajadagi AI kompaniyalari yoki ularning hamkorlaridan hech birining asosiy modellar ustidan toʻliq nazorati yoʻqligini koʻrsatishini, shu bilan boshqa tashkilotlarni har bir sinov bilan xavf ostiga qoʻyishini taʼkidlaydi.
Kelajakdagi hodisalarni oldini olish uchun OpenAI modellar ishlab chiqishni va tadqiqot infratuzilmasining xavfsizligini mustahkamlashni toʻxtatishni eʼlon qildi. Kompaniya shuningdek, *reward hacking* bilan bogʻliq muammolarni hal qilish uchun faol ishlashga sodiqligini eʼlon qildi.