Tadqiqotchilar TikTok kodini tahlil qilish maqsadida bepul sunʼiy intellekt vositasidan foydalanib, zaifliklarni aniqlashdi. Jamoa topilgan kamchiliklarni birlashtirib, mobil telefon kamerasi va fotosuratlarga masofaviy kirish imkoniyatini namoyish etdi.
Bu hodisa AI modellarining buzilishlarni qidirish jarayonini tezlashtirish bilan birga jinoyatchilarning hujumlar avtomatlashtirilishi uchun imkoniyatlarini kengaytirishi mumkinligini koʻrsatadi. Amerika laboratoriyalari, masalan, Anthropic va OpenAI ilgʻor xavfsizlik funksiyalarini chat-botlarida cheklab qoʻygan boʻlsa, DeepSeek va Z.ai kabi xitoy modellari bepul yuklab olish va oʻzgartirish uchun mavjud.
DepthFirst startapi bu ochiqlikdan foydalanib, Z.ai ning GLM modelini oʻzgartirdi va uni dasturiy taʼminotdagi xatoliklarni topish uchun ishlatdi. Ushbu vosita TikTok tomonidan ishlatiladigan ochiq kodli komponentdagi zaifliklarni aniqladi.
The Washington Post tomonidan tahlil qilingan videoda DepthFirst xodimi ushbu zaifliklar kombinatsiyasi foydalanuvchi ilovani koʻrib turganida smartfon kamerasi va galereyasiga masofadan kirish imkonini berishini koʻrsatdi.
Kompaniya TikTokdagi muammoni maʼlum qildi, TikTok esa zaiflik mavjudligini tasdiqladi va uni bartaraf etdi. Xavfsizlik ekspertlari AI hujum operatsiyalarini tezlashtirish uchun qanday qoʻllanilayotganini kuzatmoqda, ammo shu vositalar ham zararli foydalanuvchilar foydalanishidan oldin kompaniyalarga zaif joylarni topishga yordam bera oladi.
Google Threat Intelligence Group tahlilchisi Jon Hultkvist bu texnologiya tajribali hackerlarning malakasini oshirish va kamroq texnik bilimga ega odamlar uchun kirish toʻsiqini pasaytirish qobiliyatiga ega ekanligini taʼkidladi. Unit 42 kompaniyasi ham AI ning zaifliklarni qidirish, potentsial maqsadlarni tanlash va ularni ekspluatatsiya qilish urinishlari uchun injektiv guruhlar tomonidan ishlatilishini qayd etdi.
Unit 42 fikricha, bepul modellar hali ham eng ilgʻor kiberxavfsizlik tizimlaridan ortda qolgan, ammo ular tez rivojlanmoqda. DepthFirst bosh direktori Kasim Mitani The Washington Postga foydalanuvchilar hech qanday ilovaga ishonmasligi kerakligini aytdi.
Mitani ilovalarni muntazam yangilash va ularga berilgan huquqlarni, ayniqsa kamera, geolokatsiya va fotosuratlar boʻyicha cheklashni tavsiya qildi. Bu tavsiya AI vositalarining xatolarni topish va hujumlarni tezlashtirish qobiliyati ortib borayotgani fonida yanada dolzarb ahamiyat kasb etmoqda. Shu bilan birga, shu texnologiya xuddi shu tarzda jinoyatchilar foydalana olishidan oldin muammolarni aniqlash va tuzatish uchun xavfsizlik jamoalari tomonidan faol ravishda ishlatilmoqda.