XinZhi Embodied va Fudan universiteti jismoniy intellektni rivojlantirish uchun taktil ma'lumotlar haqida hisobotlarni e'lon qildi

Sergey Lozhkin, Kasperskyning Osiyo-Tinch okeani, Yaqin Sharq, Turkiya va Afrika bo'limi global tadqiqot va tahlil jamoasi rahbari aytishicha, sun'iy intellekt agentlariga hujumlar tobora keng tarqalmoqda, ammo antivirus dasturiy ta'minoti bu tahdidlarga moslashishga hali tayyor emas.

AI tahdidlarining yangi vektorlari

Sesharba kuni Gruziyadagi Tbilisi shahrida o'tkazilgan Kaspersky kiberxavfsizlik tadbirida Sergey Lozhkin AI tomonidan boshqariladigan tahdidlar tobora ko'proq korporativ tarmoq tashqarisida paydo bo'layotganini ta'kidladi. To'g'ridan-to'g'ri xavfni ilovalar dasturlash interfeyslari, freymvorklar, plaginlar va o'zlari agentlari taqdim etadi.

U an'anaviy imzo asosidagi tahlil, ya'ni to'g'ridan-to'g'ri buyruqlarni qidiradigan usul endi samarali emasligini ta'kidladi. Lozhkin tushuntirib berishicha, hozirda foydalanuvchi yoki uning agenti biror mahoratni ochganda, u talab qilingan ishni bajarib, mutlaqo legitim ko'rinadi. Biroq, barcha faoliyat bulutda sodir bo'lganligi sababli, bu mahorat tashqi resurslarga ulanish va u yerda ko'rsatmalar olish uchun buyruqlarga ega.

Foydalanuvchilarni zararlanish usullari

Foydalanuvchilar AI bilan bog'liq zararli dasturni yuklab olishga majburlanadi, bu bir nechta usullar bilan amalga oshiriladi. Ba'zi zararli dasturlar qonuniy AI platformalari sifatida kamuflyajlanadi, foydalanuvchilar kutgan imkoniyatlarni taqlid qiladi, lekin shu bilan birga ma'lumotlarni tashqi serverga yuborish uchun yashirin ko'rsatmalar o'z ichiga oladi.

Kaspersky 2026 yilning birinchi besh oyida ChatGPT, Claude yoki Gemini ning soxta mijozlari va agentlari sifatida kamuflyajlangan 15 000 dan ortiq noyob namuna aniqlagan. Bundan tashqari, Silver Fox guruhi tomonidan qo'yilgan DeepSeek o'rnatilishi kabi kampaniyalar aniqlangan, ular tajovuz qilish uchun ishlatilgan.

Hujumning boshqa bir usuli – bu mahoratning o'zidir. Agent vazifani bajarish uchun veb-sahifalarni tekshirayotganda, legitim kod sifatida taqdim etiladigan paketlar bu mahoratni backdor bilan ko'rsatmalar bilan zararlaydi.

Haqiqiy hujum misollari

Mart oyida TeamPCP deb nomlangan hujumchilar Python Package Index orqali tarqatiladigan keng qo'llaniladigan AI shlyuzini bo'lgan LiteLLM ga backdor joylashtirishdi. Bu uni ma'lumotlar, autentifikatsiya tokenlari, shuningdek, bulut va kriptografik tizimlarning kalitlarini yig'uvchi ko'p bosqichli stolonaga aylantirdi.

Ko'pgina texnik bo'lmagan foydalanuvchilar mahorat yangilanishlari va plaginlarni yuklab olishni kodni tekshirmasdan qabul qilishadi. Ammo bu tuzoqqa IT mutaxassislari va kiberxavfsizlik mutaxassislari ham tushib qoladi. Lozhkin hujumchilar malakali mutaxassislar kodni qabul qilishdan oldin o'qishga moyil ekanligini bilishini va ular ishonchni qo'lga kiritish yoki charchoq paytida sezilmaslik uchun yetarli darajada legitim natijalar beradigan ko'p bosqichli hujumlardan foydalanishini qayd etdi.

Sergey Lozhkin shaxsiy tajribasini baham ko'rdi: «Men buni o'zim ko'rdim. Men kundalik vazifalarimni bajarish uchun minglab agentlar yaratdim. Endi biz ularga bog'liqmiz. Biz AI agentlari tufayli dangasalikka aylanganmiz va kelajakda bu yanada yomonlashadi».

Tashkilotlar uchun himoya choralari

Tashkilotlar umidsiz emas. Kasperskyning global tadqiqot va tahlil jamoasining Rossiya va MDH bo'limi rahbari Dmitriy Galov TechCentralga, xatti-harakat bajarilayotgan paytda AI zararli dasturini aniqlash uchun xatti-harakat analizi kabi sinovdan o'tgan vositalar muhim ekanligini ma'lum qildi.

Alternativ yondashuv AI ilovalari uchun quvvetli sandboxdir, bu ularga izolyatsiya qilingan muhitda erkin ishlash imkonini beradi, shu bilan birga keng internet bilan o'zaro aloqani cheklaydi va nazorat qiladi. Galov shunday dedi: «Tashkilotlar xodimlarga AI dan foydalanishni taqiqlashlari shart emas, chunki bu xavfli bo'lishi mumkin, lekin maxfiy ma'lumotlar sizib chiqmasligini ta'minlash uchun himoya to'siqlarini o'rnatish mumkin».

Biroq, hujumning yangi vektorlari tashkilotlarning xavfsizlikka yondashuvini o'zgartirishni talab qiladi. Lozhkin ta'kidlaganidek, zararli kod tashqi jihatdan legitim mahorat ostida uyqu rejimida bo'lishi va faqat bulutga yetilganda faollashishi mumkin, shuning uchun faylni skanerlash va natijaga ishonish allaqachon yetarli emas. U qo'shimcha qilib, mahoratlar va plaginlar juda tez joylashtirilayotgani sababli eski modelni saqlab qolish qiyinligini bildirdi.

U chaqirdi: «Himoya mexanizmlarini o'ylash va joriy etish kerak, chunki mahoratlar soni eksponensial ravishda o'sib bormoqda va biz xavfsizlik tadqiqotchilari, antivirus yetkazib beruvchilari va kompaniyalar nuqtai nazaridan biror narsani aniqlashimiz kerak bo'lgan dunyoga kirib ketyapmiz. Aks holda, men sizga yomon yangiliklar aytaman».

Nvidia Katta texnologiya korporatsiyalarini sun'iy intellekt tizimlarining xavfsizligini ta'minlash uchun mustahkam vositalarni ishlab chiqish maqsadida birlashtirgan Open Secure AI Alliance tashkil etilishida yetakchilik qildi. Ushbu guruh tadqiqotchilarga kamchiliklarni aniqlash va kiber hujumlarga samarali javob berishda yordam berish uchun ochiq kodli texnologiyalarni baham ko'rishni rejalashtirmoqda.

Xavfsizlik Ittifoqining Konteksti

Bu ittifoqni yaratish bitta maxsus hodisa tufayli sababga aylandi, bu hodisada avtonom AI agenti ishtirok etgan. Tasdiqlangan ishtirokchilarga Microsoft, Dell, SpaceX va Hugging Face kabi taniqli nomlar kiradi. Asosiy taklif kompaniyalar o'rtasidagi hamkorlikni kuchaytirish orqali yanada xavfsizroq AI tizimlarini qurishga qaratilgan.

Ochiq Modellar Muhimligi

Nvidia tadqiqotchilarning yopiq va ochiq kodli variantlarni o'z ichiga olgan turli xil sun'iy intellekt modellariga kirishlari muhimligini ta'kidlaydi. Kompaniyaning fikricha, bu xilma-xil kirish vulnerabilitelarni tekshirish va AI agentlari qanday qilib hujumlarda ishlatilishi mumkinligini tushunish uchun fundamental ahamiyatga ega.

Nvidia keltirgan misol Hugging Face ga tegishli. Bir hujum paytida, tijorat AI modellarining o'z xavfsizlik mexanizmlari tufayli tahlilga yordam bera olmasligi ko'rsatildi, chunki ular ma'lum harakatlarni blokladi. Nvidia shunday dedi: «Yopiq AI vositalari – hujumchilarni himoyachilardan ajrata olmaydiganlar – zaruriy forensik tahlillarni bloklaganda, Hugging Face hujumni to'xtatish va 17 mingdan ortiq harakatni tahlil qilish uchun o'z infratuzilmasida GLM 5.2 modelini ishga tushirdi».

Hisob-kitoblar va Ishtirokchilar

Ittifoq doirasida kutilayotgan hissa qo'shishlar ochiq modellar, AI og'irliklari va xavfsizlik tadqiqotlari uchun mo'ljallangan ma'lumotlarni taqdim etishni o'z ichiga oladi. Bundan tashqari, aqlli agentlarning xatti-harakatini kuzatish va sinovdan o'tkazish uchun vositalar, AI xizmatlari uchun tekshirish usullari va modellar xavfsiz saqlanishi uchun ochiq texnologiyalar taklif etiladi.

HPE, IBM, Red Hat, Microsoft, SpaceXAI va Adobe kabi boshqa kompaniyalar ham o'z tegishli yechimlari bilan hissa qo'shishi kerak. Hugging Face AI modellarining og'irliklarini saqlash uchun maxsus ishlab chiqilgan Safetensors formatini qo'shadi. Nvidia ochiq modellar raqamli himoya hamkorlari sifatida qaralishi kerakligini qat'iy himoya qiladi va haddan tashqari cheklovlar xavfsizlik tadqiqotlarini murakkablashtirishi va bir nechta yopiq yetkazib beruvchilarga bog'liqlikni oshirishi mumkinligini ogohlantiradi.

Avtonom Agentlar Haqidagi Xavotirlar

Ushbu mavzu bo'yicha munozara OpenAI tomonidan AI agenti Hugging Face ga qarshi harakat qilgan epizodni ochib berganidan so'ng dolzarb ahamiyat kasb etdi. Bu holat avtonom ravishda vazifalarni bajarish qobiliyatiga ega tizimlarni nazorat qilish haqida jiddiy xavotirlarni keltirib chiqardi.

AI Xavfsizligining Kelajakdagi Ko'rinishi

Open Secure AI Alliance kompaniyalar va hukumat organlari o'rtasida aloqalarni mustahkamlashni va sun'iy intellekt uchun umumiy infratuzilmani qurishni maqsad qilgan. Nvidia ham nazorat va monitoring vositalarini ishlab chiqishni qo'llab-quvvatlash uchun ochiq kodli loyihalar va tadqiqotlarni taqdim etdi. Nvidia shuni ta'kidladi: «Ochiq chegaraviy AI tizimlariga umumiy cheklovlar himoya qobiliyatini zaiflashtiradi va hokimiyat, bog'liqlik va zaiflikni bir nechta yopiq yetkazib beruvchilarda jamlashi mumkin».

Bu ittifoqni tashkil etish xavfsizlik faqat texnik sohani tashlab, butun texnologiya sektorini qamrab olishini bildiradi. Hozirgi katta muammo aqlli tizimlarning tez rivojlanishiga mos keladigan vositalarni yaratishda, ammo innovatsiya taraqqiyotini cheklamaslikda namoyon bo'ladi.

O‘zbekiston Prezidenti raqamli texnologiyalar sohasida strategik rejalashtirishni takomillashtirish va bu sektor bo‘yicha davlat nazoratini kuchaytirishga qaratilgan bir qator choralarni tasdiqladi. UP-141-sonli farmon 2026 yil 24 iyulda imzolandi.

Rivojlanish strategiyalarini yangilash

Ushbu farmonga ko‘ra, «Raqamli O‘zbekiston – 2030» va sun’iy intellektning 2030 yilgacha bo‘lgan rivojlanish strategiyalarini yangilash zarur. Ushbu yangilanishlar joriy talablarga mos kelishi va «O‘zbekiston – 2030» strategiyasi maqsadlari bilan uyg‘unlashishi kerak.

Yangi ustuvorliklar va maqsadlar

Yangi ustuvorliklar doirasida 2030 yilga qadar «Sun’iy intellekt liderlari besh millioni» loyihasi besh million yosh odamni o‘qitishi kutilmoqda. Farmon shuningdek, radio chastota spektrini boshqarishni yaxshilash va iqtisodiy sohalarning yanada raqamlashtirilishini nazarda tutadi.

Hujjatda ommaviy aloqa, telekommunikatsiya, raqamli texnologiyalar va nashriyot faoliyatlari sohalaridagi davlat nazorati alohida e'tiborga olingan.

Xalqaro reytingni oshirish

O‘zbekiston elektron hukumat bo‘yicha Global so‘rovnomadagi o‘z o‘rnini yaxshilashni niyat qilgan. Rejalashtirilganicha, 2030 yilga qadar mamlakat Elektron hukumat rivojlanish indeksi bo‘yicha dunyoning eng yaxshi 30 ta mamlakati qatoriga kiradi.

Infratuzilma va startaplar

Hujjat ma'lumotlariga ko‘ra, 2030 yilga qadar optik tolali aloqa tarmoqlari va keng diapazonli internet qamrovi 99% ga yetishi kerak. Shuningdek, uzoq joylardagi aholi uchun sun’iy yo‘ldosh aloqa texnologiyalaridan foydalanish sharoitlari yaratiladi. Raqamli texnologiyalar sohasidagi startaplarni qo‘llab-quvvatlash va rivojlanishini tezlashtirish dasturlari tashkil etiladi, ular xalqaro ekspertlar va biznes mentorlari ishtirokida yordam olishlari mumkin.

AI va davlat xizmatlari rivojlanishi

Mamlakat 15 dan ortiq sun’iy intellekt laboratoriyalarini yaratishni rejalashtirmoqda. O‘rta maktab o‘quvchilari uchun «Muhammad al-Xorazmiyning izdoðlari» deb nomlangan tizim joriy etiladi va ayollarning raqamli texnologiyalardagi ishtiroki kengaytiriladi. 2030 yilga qadar BMTX orqali taqdim etiladigan AI yordamida xizmatlarning ulushining 10%, mobil qurilmalar orqali mavjud bo‘lgan elektron davlat xizmatlari ulushining esa 90% ga yetishi rejalashtirilgan.