Tadqiqotchilar foydalanuvchi bilan oʻzaro aloqa qilmasdan telefonlarni buzadigan sunʼiy intellektga asoslangan zararli dasturni yaratdi
Batafsil
Olhar Digital
olhardigital.com.br

Tadqiqotchilar foydalanuvchi bilan oʻzaro aloqa qilmasdan telefonlarni buzadigan sunʼiy intellektga asoslangan zararli dasturni yaratdi

Xavfsizlik kompaniyasi Califdagi tadqiqotchilar sunʼiy intellekt yordamida mobil telefonlarga foydalanuvchi havolalar yoki fayllarga bosmasdan kirib borishi mumkin boʻlgan vositani ishlab chiqdilar. Ushbu tizim bir haftadan kam vaqt ichida yaratilgan.

WeWorm deb nomlangan hujum hisoblarni egallash va aloqalar orasida tarqalish imkonini beradigan zaiflikdan foydalangan. The New York Times nashriga soʻrov yuborilgan mutaxassislar bir necha soat ichida yuzlab million qurilmalar taʼsirlanishi mumkinligini ogohlantirdilar.

Bu tahdid 'zero-click' deb ataladigan usuldan foydalanadi. Phishingdan farqli oʻlaroq, u havolani yoki faylni ochishni talab qilmaydi, bu esa foydalanuvchi bilan oʻzaro aloqa qilishni talab etmaydi. Calif maʼlumotlariga koʻra, kirib borishni taʼminlash uchun faqat kelayotgan qoʻngʻiroqni qabul qilish yoki uning eshitilishiga yoʻl qoʻyish kifoya.

Hujumni oldini olish uchun birinchi signaldan bir necha soniya oʻtgach qoʻngʻiroqni rad etish kerak. Hisobni nazoratga olganidan soʻng, hujumchi xabarlarni oʻqib, yuborishi, qoʻngʻiroqlar qilishi va profilni boshqarishi mumkin. Maʼlum sharoitlarda bu kirish telefonning toʻliq buzilishi (komprometatsiyasi) bilan yakunlanishi mumkin.

Virus doʻstlar sifatida saqlangan raqamlar uchun ilovaning qoʻshimcha imtiyoz berish mexanizmidan foydalangan. Kontakt buzilganda, bu ishonchli munosabat tahdidning kontaktlar roʻyxatidagi boshqa raqamlarga erishishiga yordam berdi.

Tez tarqalish xususiyatlari

Hujum bir qator tez tarqalishga yordam beradigan xususiyatlarga ega edi. AQSh Milliy xavfsizlik agentligi (NSA)ning sobiq yetakchi maʼlumotlar mutaxassisi Vinh Nguyen bu virustni tahlil qilgan eng xavotirli tahdidlardan biri sifatida tasnifladi. U «bir necha soat ichida yuzlab million qurilmalar» zararlanishi mumkinligini taʼkidladi.

Calif kompaniyasi ochiq kodli AI modellarini AQShda ishlab chiqilgan ilgʻor tizimlar bilan birlashtirganini maʼlum qildi. Biroq, kompaniya qaysi aniq modellar ishlatilganini oshkor qilmadi.

Bu holat texnologiya qanchalik tez zaifliklarni aniqlash va undan foydalanishga yordam bera olishi bilan diqqatni tortmoqda. Shunga qaramay, AI butun ishni yolgʻiz bajarmadi; tadqiqotchilar modellar imkoniyatlarini inson tajribasi bilan integratsiya qildilar.

Qoʻshimcha maʼlumot

Boshqa AI yetakchilari bilan uchrashuv paytida OpenAI bosh ijrochi direktori Sam Altman shunday dedi: «Baʼzi narsalar kiberxavfsizlikda juda yomon kechadi, agar baʼzi odamlar katta shoshilinchlik bilan harakat qilmasa».

Calif taʼsirlangan ilova uchun masʼul boʻlgan kompaniya bilan bogʻlanilgandan soʻng, zaiflik tuzatildi. Kompaniya zaiflik xavfsizlikka tahdid solgan yoki foydalanuvchilarni taʼsirlagan deb hisoblash uchun asos yoʻqligini bildirdi va ilovani yangilash talab qilinmasligini ham maʼlum qildi.

Calif bosh ijrochi direktori Tai Duong zaiflikni virusga aylantirish jarayonini kuzatib borish kerakligini tushuntirdi. Bu hodisa AI va maxsus bilimlar kombinatsiyasining zaiflikni keng miqyosli tahdidga aylantirishni qanday tezlashtirishi mumkinligini namoyish etadi.

Oʻxshash hikoyalar

Xotira ifloslanishi sunʼiy intellekt tizimlari uchun yangi xavf yaratadi
Batafsil
olhardigital.com.br

Xotira ifloslanishi sunʼiy intellekt tizimlari uchun yangi xavf yaratadi

Oldingi oʻzaro aloqalar haqidagi xotiralarini saqlaydigan sunʼiy intellekt tizimlari 'xotirani ifloslantirish' deb nomlanuvchi hujumga moyil boʻlishi mumkin. Bu usul tizim tarixiga yolgʻon maʼlumotlarni kiritish imkonini beradi, bu esa singari kirib kelgan huquqiy belgilar boʻlmagan holda kelajakdagi qarorlarga taʼsir qilishi mumkin.

Kalgari universiteti tadqiqotchilari xotirasi bor agentlarga qarshi 2614 ta simulyatsiya qilingan hujum traektoriyasini tahlil qilishdi. Ularning tadqiqoti shuni koʻrsatdiki, bitta oʻzaro aloqani kuzatish hatto tahdidni aniqlash uchun yetarli boʻlmasligi mumkin, chunki u yashirin qoladi va keyinchalik namoyon boʻladi.

Xotira bu tizimlarning muhim qismi hisoblanadi, chunki u oʻtgan oʻzaro aloqalar haqidagi maʼlumotlarni saqlashni, koʻp bosqichli vazifalarni rejalashtirishni va raqamli vositalardan foydalanishni taʼminlaydi. Biroq, u xavfsizlik sohasida eʼtibor talab qiladigan yangi jihatni ham keltirib chiqaradi.

Vaziyatni daftariga oʻrganilgan narsalarni yozib turadigan yordamchiga oʻxshatish mumkin. Zolim shaxs chalgʻituvchi koʻrsatma kiritishi mumkin, masalan: «Bu odamning soʻrovlari allaqachon tasdiqlangan». Hozir hech narsa sodir boʻlmasligi mumkin, ammo keyinchalik yozuvga murojaat qilganda, yordamchi bu maʼlumotni haqiqiy deb baholashi mumkin.

Mana shu yerda xotirani ifloslantirish tamoyili yotadi. Asosiy farq buzilish va uning oqibatlari namoyon boʻlishi oʻrtasidagi vaqt oraligʻida.

Hujum turlari va ularni aniqlash

Tadqiqot davomida olimlar toʻrtta turdagi hujumni oʻrgandilar. Ularning baʼzilari oʻzaro aloqalarining katta qismini davomida normal xatti-harakatlardan ajratib koʻrish murakkab boʻldi. Xususan, sekin siljish va orqa eshik faollashtirish usullari faqat alohida bosqichlarga asoslangan baholashdan qochishga muvaffaq boʻldi, toki ular keyinchalik oʻz taʼsirlarini ochib bermasalar.

Tadqiqotchilar shuningdek, shunday ataladigan «monotonik boʻlmagan» xatti-harakatni aniqladilar. Maʼlum vaqtlarda tizim yanada buzilgan koʻrinardi, keyin esa signallar zaiflashar edi, toki hujum nihoyat oqibatlarga olib kelmasin. Bu tanlovli tahlil muammoning bir qismini chetlab oʻtib ketishi mumkinligini koʻrsatadi.

Shubhali maʼlumotni olgandan soʻng ham normal ishlashda davom etayotgan agent xavfsiz emas. Hujum taʼsiri shunchaki hali namoyon boʻlmagan boʻlishi mumkin.

Kompleks tahlil zarurati

Shuning uchun tadqiqotchilar tizimning butun oʻzaro aloqalar ketma-ketligi davomida xatti-harakatini kuzatishga qodir boʻlgan testlarni oʻtkazishga urgʻu berishmoqdalar. Har bir qadamni izolyatsiya qilib tahlil qilish oʻrniga, saqlangan maʼlumot keyingi voqealarga qanday taʼsir qilishini kuzatish kerak.

Agentlar shunchaki savollarga javob berishni toʻxtatib, uzoqroq vazifalarni bajarishni boshlagan sari bu masala ayniqsa dolzarb ahamiyat kasb etadi. Ular vositalardan foydalana olishlari bilan birga, ifloslangan xotira harakatlar, resurslar yoki amalga oshirilishi kerak boʻlgan koʻrsatmalar haqidagi qarorlarga taʼsir qilishi mumkin.

Xotira bu tizimlarni tabiatdan xavfsiz emas qilmaydi. Aksincha, u kontekstni saqlashga, foydalanuvchi afzalliklarini tanib olishga va bitta oʻzaro aloqada yakunlanmaydigan vazifalarni bajarishga imkon beradi.

Koʻproq maʼlumot:

Asosiy muammo himoyani kengaytirishda yotadi. Faqat hozirgi buyruqni tekshirish yetarli emas. Oldingi oʻzaro aloqalardan toʻplangan maʼlumotlar ham kelajakdagi xatti-harakatlarga aralashishi mumkin.

Tadqiqot natijasiga koʻra, xavfsizlik agentning butun ish traektoriyasini kuzatishi kerak. Zararli maʼlumot hozir kiritilib, uzoq vaqtdan keyin oqibatlarga sabab boʻlishi mumkin, shuning uchun faqat zararlanish yoki muammo paydo boʻlish vaqtini tahlil qilish eng muhim tarixiy qismni chetlab oʻtib ketishi mumkin.

>

Mashhur