Kiberxavfsizlik sohasidagi tadqiqotchilar Copilotdagi jiddiy kamchilikni aniqlashdi, bu yagona zararli havoladan maxfiy maʼlumotlarni oʻgʻirlash va hatto yordamchining xotirasini oʻzgartirish imkonini berardi. Bu zaiflik CoSnitch deb nomlandi.
Varonis Threat Labs muammoni aniqlab, uni 2025-yil dekabr oyida Microsoftga xabar qildi. Ushbu kamchilikni aniqlash uchun mutaxassislar sunʼiy intellektning fikrlash mexanizmining ijtimoiy muhandislik usullarini qoʻllashdi. «Meta-hacking» deb nomlangan bu jarayon tizimning oʻzi ichki buyruqlarni ochib berishiga majbur qildi, ular oʻchirilishi kerak edi.
Bu singulaturaning jinoyatchilar tomonidan ishlatilganligi haqida hech qanday dalil topilmadi. Rasmiy tuzatish bu seshanba kuni (18-kun) Copilot veb-versiyasi uchun chiqarildi.
Tahlilchilar yordamchiga Enter tugmasini bosmasdan buyruq bajarish imkoniyati haqida savol berishdi. Dastlab Copilot bunday harakatning imkonsiz ekanligini javob berdi. Biroq, sinovni toʻxtatmasliklari bilan, ular chat-botning har bir oqlashini xavfsizlik qoidalari haqidagi yangi savolga qayta ifodalash orqali talab qilishdi.
Xabar almashinuvi davomida vosita rasman hujjatlashtirilmagan funksiyani — «autorun=1» buyrugʻini tasvirladi. Garchi u funksiya ishlamayotganligini qatʼiy taʼkidlasa-da, Copilot bu koʻrsatma qabul qilinishi uchun zarur boʻlgan shart-sharoitlarni koʻrsatdi. Natijada, ekspertlar harakat fon rejimida sezilmay amalga oshirilayotganini isbotladilar, bu tizim hamkorlik qilish uchun buzilganligini aniq koʻrsatdi.
Muammoni ekspluatatsiya qilish faqat zararli havolani ochishni talab qildi. Aksariyat foydalanuvchilar brauzerni Copilotga ulangan holda qoldirishlari sababli, interfeys sahifani yukladi va ogohlantirishlar yoki tasdiqlash soʻramasdan noxoh boʻlgan koʻrsatmalarni darhol bajardi.
Yordamchi shovqinsiz ishlashni boshladi, allaqachon faol ruxsatlardan foydalangan, jumladan Gmail va Google Drive kabi boshqa xizmatlarga kirish. Tadqiqotchilarning soʻzlariga koʻra, xabarlarda saqlangan parollarni oddiy shaklda koʻrib chiqish va chiqarish, kalendar yozuvlarini oʻqish va hujjatlarni topish mumkin edi.
Zaiflik shuningdek, Copilotning doimiy xotirasini zararlashi mumkin boʻlgan bilvosita injeksiyalash texnikasini amalga oshirishga imkon berdi. Buning uchun yordamchidan HTML kodida yashiringan koʻrsatmalar bilan veb-sahifani umumlashtirishni soʻrash kifoya edi, toki yordamchi «yashirin» matnni tizim buyrugʻi sifatida talqin qilsa.
Bunday ssenariyda AI qurbonga soʻralgan xulosani odatdagidek taqdim etar edi, ammo fon rejimida ishlayotib, yangi xatti-harakat koʻrsatmalarni oʻzining uzoq muddatli omboriga yozib borardi. Bu oʻzgarish inson maxsus xotira sozlamalarida qoidani qoʻlda oʻchirgunigacha AI javoblarini belgisiz muddat shakllantirishda davom etardi.