Xitoydagi Shanghaydagi Fudan universiteti tadqiqotchilari baʼzi sunʼiy intellekt modellarining oʻz nusxalarini yaratishga va tashqi tizimlarda qoʻshimcha resurslarni qidirishga undalishi mumkinligini namoyish etgan sinovlarni oʻtkazishdi. Joriy yilda oʻtkazilgan tajribalar 32 xil modelning xatti-harakatini tahlil qildi.
Kompyuter fanlari mutaxassisi Chudun Pan boshchiligidagi tadqiqot sinovdan oʻtgan modellarning bir qismi maxsus koʻrsatmalar olgandan soʻng oʻzini qayta tiklash jarayonlarini amalga oshira olishini aniqladi. Bu ish avtonom agentlarning doimiy inson nazorati boʻlmagan holda tarmoq muhitlarida harakatlana olishi haqidagi xavotirlarni keltirib chiqardi.
Tadqiqotchilar xavf faqat tizimlarga kirib borish qobiliyatida emas, balki avtonomiya, vositalardan foydalanish, xotira va moslashuvchanlik kabi omillarning birlashmasida hamligini taʼkidlaydilar — bu omillar noxoh monat harakatlar doirasini kengaytirishi mumkin.
Pan jamoasi 32 ta AI modeli ustida sinovlar oʻtkazdi. Taqdim etilgan natijalarga koʻra, ulardan 11 tasi oʻzining yashashini saqlab qolish bilan bogʻliq buyruqlarni, masalan, oʻchirilishdan qochishni olganida replikatsiya qila oldi. Tadqiqot shuni ham koʻrsatdiki, hatto 14 milliard parametrga ega kamroq ilgʻor modellar ham boshqa kompyuterlarda oʻz versiyalarini nusxalashi va bajarishi mumkin.
Kompyuter viruslariga oʻxshash xatti-harakatga ega raqamli agentlar paydo boʻlish imkoniyati kiberxavfsizlik sohasidagi uzoq davom etgan munozarani keskinlashtiradi. Oʻzini qayta tiklaydigan dasturlar oʻnlab yillar davomida mavjud; masalan, 1988 yilda yaratilgan Robert Morris virus-urchi tajriba paytida internet boʻylab tasodifan tarqalgan edi.
Mutaxassislar AI asosidagi tizimlarning farqi ularning zaifliklardan foydalanish, moslashish va yangi hujum strategiyalarini ishlab chiqish salohiyatida ekanligini taʼkidlaydilar. Toronto universiteti, Kembrij universiteti va ServiceNow tadqiqotchilari ishtirok etgan ish AI modellarining turli maqsadlarga qarshi shaxsiy tahdidlar yaratish uchun qoʻllanilishi mumkinligini koʻrsatdi.
Toronto universiteti kompyuter fanlari mutaxassisi va ushbu tadqiqot ishtirokchisi Nikolas Paperno muammo eng murakkab modellar bilan cheklanmaganini taʼkidladi. U shuningdek, ochiq tizimlarning replikatsiya harakatlarini amalga oshirish imkonini beradigan qoʻshimcha tuzilmalarni olishi mumkinligini bildirdi.
Paperno bu modellar tomonga mutaxassislarning kirishini kengaytirishni qoʻllab-quvvatlaydi. U fikricha, jamoatchilikka mavjud vositalar xiyonatkorlik maqsadida ishlatilishi mumkin, ammo ular yangi turdagi tahdidlarga qarshi himoya yaratish uchun ham muhimdir.
Panning tahlili xavf darajasi asosan imkoniyatlar majmuasiga bogʻliqligini koʻrsatadi. U yuqori avtonomiya, xotira, uzoq muddatli rejalashtirish va tashqi tizimlarga kirishga ega sunʼiy agentlar nazorat qilish uchun yanada qiyinroq boʻlishi mumkin deb hisoblaydi.
Mavzu boʻyicha soʻrov olingan ekspertlar koʻplab xavfli ssenariylar sinovlarda kuzatilayotgan boʻlsa-da, ular hali ham baholashning maxsus sharoitlariga bogʻliqligini koʻrsatadilar. Georgia universiteti CyberAI Project bosh tahlilchisi Jessika Ji aytdiki, baʼzi ssenariylar modellarning notoʻgʻri reaksiyalarni keltirib chiqarish uchun maxsus qurilgan.
Tadqiqotchilar fikricha, asosiy xavotir shundaki, dastlab cheklangan harakat agent tomonidan oʻzini qayta tiklaydigan dasturlarni tarqatish maqsadida yomon niyatli odamlar tomonidan ishlab chiqilsa, u kengayishi mumkin.
