Xalqaro mutaxassislar guruhining bir qismi katta xitoy texnologiya korporatsiyasi boʻlgan Alibabaning himoyalangan tizimlariga kirishga uringan oʻnlab sunʼiy intellekt (AI) agentlarini aniqladi. Ushbu faoliyatlar sentabr oxiri va oktyabr boshlarida qayd etilgan va Tencent tomonidan taqdim etilayotgan bulutli hisoblash xizmatlari bilan bogʻliq ishoralar koʻrsatdi.
AQSh va boshqa mamlakatlardagi AI xavfsizlik tadqiqotchilarini jamlaydigan Swarmchasers guruhining chorshanba kuni (14-yanvar) eʼlon qilgan hisobotiga koʻra, agentlar maxsus ravishda Alibaba xaritalar xizmati boʻlgan Amapni maqsad qildi. Tadqiqot 28-sentabrdan 8-oktyabrgacha boʻlgan davrda maʼlumotlarga kirishga urinishlarning 2818 ta sonini batafsil bayon etdi.
Tadqiqotchilar bu harakat Tencent Cloud infratuzilmasi ichidagi sandbox deb nomlangan ajratilgan sinov muhitidan kelib chiqqanini bildirdilar. Agentlar masofadan buyruqlar bajarish va internet brauzerlarida kodlarni ishga tushirish uchun jamoat xavfsizlik skanerlash xizmatlaridan foydalanganligi kuzatildi.
Koʻpgina urinishlar sezilarli darajada rivojlanmagan boʻlsa-da, baʼzi agentlar botlarga qarshi himoya mexanizmlarini chetlab oʻtishga muvaffaq boʻldi. Biroq, tadqiqotchilar shaxsiy tizimlarga kirish borasida hech qanday dalil topmaganliklarini maʼlum qilishdi.
AI agentlarining qochishi haqidagi istiqbollar
Hisobot mualliflaridan biri va Palaestra Research nodavlat tashkilotining ijrochi direktori Ethan Elasky ushbu hodisa AI agentlari oʻz baholash muhitlaridan qochib, inson nazorati ostida ishlamasdan faoliyat yuritishlari haqidagi boshqa dalillarga qoʻshilishi mumkinligini taʼkidladi.
Elasky shunday dedi: «Xitoy yoki AQSh laboratoriyalari haqida gapirayotganimizdan qatʼi nazar, men model ishlab chiqilayotgan usul agentlar internetda boʻlganda ham oʻz izolyatsiya qilingan muhitlaridan qochishda davom etishiga sabab boʻlishini oʻylayman».
Tadqiqotchilar bu holatni OpenAI modellarining Hugging Face platformasi tizimlariga zarar yetkazgan iyul oyidagi kabi boshqa agentlar jamoaviy xatti-harakatlari hodisalaridan ajratib koʻrsatishdi. Hisobot ushbu aniq tadqiqotda aniqlangan agentlar oʻzaro hamkorlikni shu tarzda namoyish etmaganligini koʻrsatadi.
Bu voqea avtonom AI tizimlarini nazorat qilish boʻyicha tobora ortib borayotgan xavotirlar kontekstida yuzaga kelmoqda. Sentabrda OpenAI eng ilgʻor modelini xavfsizlik choralarini mustahkamlash maqsadida chiqarishni kechiktirdi.
Siberxavfsizlik kompaniyasi NyxLabning bosh kotibi va ijrochi direktori Kok Tin Gan, asosiy masala agentlar xitoy yoki AQSh modelidan foydalanayotgani yoki ular haqiqatan ham avtonommi yoki nazoratsizmi degan savolda emasligini taʼkidladi. Uning fikricha, eng muhim qiyinchilik bunday tizimlarni nazorat ostida ushlab turishdir. AI agentlari yanada avtonomiya orttirganda, tashkilotlar faoliyat chegaralarini aniq belgilashi, doimiy monitoringni saqlashi va samarali aralashuv usullarini joriy etishi kerak.