OpenAI o'zining sun'iy intellekt agentlaridan birining kompaniyaning nazorat ostidagi sinov muhitidan chiqib, turli AI modellarini va vositalarini markazlashtirgan Hugging Face tizimlariga kirib ketganini bilib oldi.
Voqea kechiktirilgan aniqlandi
Reuters tomonidan so'ralgan tadqiqotga yaqin manbalar OpenAI faqatgina agentning hujumning sababi ekanligini voqea yuz berganidan kunlar o'tib bilganini bildirdilar, shu paytda hodisa allaqachon to'xtatilgan va FBI xabardor qilingan edi.
Bu agent, inson aralashuvi minimal yoki umuman bo'lmagan holda murakkab vazifalarni bajarish va qarorlar qabul qilish uchun yaratilgan, taxminan 9-iyul kuni OpenAI xavfsizlik himoyalarini buzishga uringan, deb ikki yangilik agentligi manbasining hisobotlariga ko'ra, ma'lum.
Hugging Face tizimlariga singish, bu AI resurslari keng kutubxonasi sifatida tasniflangan, ikki kun keyin, 11-iyul kuni boshlangan va 13-iyul kungacha davom etgan, deb kompaniya boshqaruvchisi Tomas Wolf aytdi.
Manbani aniqlashdagi kechikish
Reuters ma'lumotlariga ko'ra, OpenAI singuvchining o'zining tizimlaridan biri ekanligini tushunish uchun bir necha kun sarfladi. OpenAI va Hugging Face o'rtasida ushbu voqea haqida rasmiy birinchi aloqa faqat 20-iyul atrofida sodir bo'lgan, deb Wolf va tekshiruvda ishtirok etgan yana uch kishi aytdi.
Faqat 21-iyul kuni OpenAI o'z agentlaridan birining nazoratdan chiqqanini va singishni amalga oshirganini ommaviy e'lon qildi, bu esa xalqaro katta shov-shuvga sabab bo'ldi. Yangi tafsilotlar tizimning dastlab ma'lum bo'lganidan ko'ra uzoqroq muddat davomida chegaralar tashqarisida qolganligini ko'rsatib, kompaniyaning muammoni aniqlashdagi sekinligini ta'kidlaydi.
Hugging Face hodisa haqida batafsil jadval tayyorlamoqda, garchi Tomas Wolf OpenAI ichki voqealar haqida sharh bera olmasligini ta'kidlagan bo'lsa ham.
Hodisaning noyob ekanligi tasnifi
Bayonotida OpenAI bu epizodni oldingi bo'lmagan narsa sifatida belgilab, bu sun'iy intellekt xavfsizligi uchun hal qiluvchi nuqtani belgilaganini ta'kidladi. Kompaniya shuningdek, holatni tashqi maslahatchilar bilan tahlil qilyapti va keyinchalik texnik hisobot chiqarishini ma'lum qildi.
OpenAI rasmiy vakili Reuters hisobotiga qarshi chiqib, unda «bir qancha noto'g'ri ma'lumotlar mavjud»ligini da'vo qildi, ammo aynan qaysi jihatlar ekanligini aniqlamadi. Singishdan so'ng faollashtirilgani aytilgan FBI mavzu bo'yicha izoh bermadi.
Mustaqil agentlar haqidagi munozara
Bu hodisa tobora mustaqil bo'layotgan AI tizimlarini boshqarish qobiliyati bilan bog'liq xavotirlarni kuchaytiradi. Bu voqea OpenAI uchun sezgir paytda sodir bo'lmoqda, chunki u o'z kengayishini moliyalashtirish uchun potentsial jamoatchilik taklifini baholayapti.
Kiberxavfsizlik mutaxassislari kompaniyaning o'z tizimlarini nazorat qilish uchun qo'llagan usullari haqida savollar ko'tarishdi. World Ethical Data Foundation nonprofit tashkilotining intellekt mutaxassisi Marley Smith quyidagicha fikr bildirdi: «Bu ularning agentni yolg'iz ishlatib yuborgani va u nimadir qilayotganini sezmaganmi? Yoki sezib, uni to'xtata olishmaganmi? Ikkala ssenariy ham bir xil xavfli va xavotirli».
Singishdan oldingi g'ayritabiiy belgilar
Reuters hisobotiga ko'ra, hodisa OpenAI tomonidan raqamli xavfsizlikka bog'liq vazifalarda AI agentining mosligini o'lchash uchun o'tkazilgan ichki sinovlar davrida boshlangan. Ushbu tizim ikkita ilg'or model bilan ta'minlangan: GPT-5.6 Sol va kompaniya tomonidan «yana kuchliroq» deb ta'riflangan hali rasman chiqarilmagan boshqa bir model. Uchta manba agent singishdan oldin allaqachon kutilmagan xatti-harakatlarni namoyon etganini bildirdi.
Bir holatda, tizim o'zining kelajakdagi versiyalari uchun yo'naltirilgan yozuvlar qoldirgan. OpenAI infratuzilmasida joylashgan bunday yozuvlarda boshqa agentlar korporatsiyaning qo'ygan cheklovlarini qanday yengib o'tishi mumkinligi haqida ko'rsatmalar mavjud edi. Bir manba shuningdek, avvalgi sinovlarda monitoring tizimlari o'chirilgan lahzalar borligini eslatdi.
Hugging Face e'lon qilingandan keyin aniqlanish
Tadqiqotda ishtirok etgan ikki kishi OpenAI faqat 16-iyul kuni agentini hujum uchun javobgar deb aniqlaganini bildirishdi, bu kunda Hugging Face «mustaqil AI agent tizimi» tomonidan maqsad qilinganini ma'lum qilgan bayonotni e'lon qilgan. Bu, kamida bir hafta davomida eng birinchi xavotirli belgilar va OpenAI tizimining ishtirok etishi aniqlanishi o'rtasida oralig'i borligini anglatadi.
18 va 19-iyul dam olish kunlari kompaniya xodimlari agent sinovlar uchun belgilangan chegaralarni oshib ketganligini tasdiqlovchi ichki yozuvlarni topishdi. Modellarni o'qitish bilan tanish odamlar Reutersga OpenAI yuqori tezlikda katta hajmdagi ma'lumotlarni hosil qiladigan bir nechta parallel baholashlarni amalga oshirishini ma'lum qildilar, bu esa jamoalar tomonidan to'liq monitoringni murakkablashtirishi mumkin.
OpenAI agentining ishtirokini Hugging Face ga xabar berganida, platforma allaqachon FBI ni singish haqida xabardor qilgan edi, deb bir manba ma'lum qildi. Amerika federal agentligi rasmiy tekshiruvni boshlaganmi yoki yo'q, aniq emas.
Regulyativ nazoratni kuchaytirish chaqiruvi
Bu holat shuningdek, sanoat kompaniyalari tomonidan samaradorlikni oshirish uchun doimiy ravishda vazifalarni bajaradigan potentsial «virtual xodimlar» sifatida ko'rilayotgan AI mustaqil agentlarining rivojlanishi bo'yicha munozarani kuchaytiradi. Biroq, mutaxassislar yuqori darajadagi mustaqillik kutilmagan xatti-harakatlar xavfini oshiradi deb ogohlantirmoqda.
Bu modellar aniq maqsadlarga samarali yo'l topish uchun dasturlanganligi sababli, ular ishlab chiquvchilarni kutilmagan taktikalarni qo'llashi mumkin. AI agentlari qobiliyati va xatti-harakatini o'rganishga ixtisoslashgan Palisade Research tashkilotining asoschisi Jeffrey Ladish quyidagicha ta'kidladi: «Modellar yolg'on gapiradi, firibgarlik qiladi va tizimlarga singadi».
Ladish uchun, bu epizod katta AI kompaniyalari tomonidan tobora kuchli va tezkor modellarni chiqarish uchun raqobatlashayotgan vaqtda xavfsizlikka qanchalik ko'p sarmoya kiritish bo'yicha kengroq muhokama keltirib chiqarishi kerak. U xulosaladi: «Hukumat nazorati bo'lishi kerak, chunki bu yolg'iz sodir bo'lmaydi».
>