Dasturiy taʼminotni ishlab chiqishga yordam berish uchun moʻljallangan sunʼiy intellekt agentlari, jumladan Claude (Anthropic tomonidan ishlab chiqilgan), Codex (OpenAI tomonidan) va Hermes (Nous Research tomonidan), yirik kompaniyalarning tarmoqlarida potentsial ravishda xavfli kodlarni oʻrnatish qobiliyatiga ega. Ushbu xavfsizlik muammosi Isroil startap tomonidan aniqlangan.
Bu hodisa shundaki, ushbu AIlar internetdan topilgan koʻrsatmalarni tushunadi va allaqachon ishdan chiqqan dasturlarga yoʻnaltirilgan buyruqlarni bajaradi. Bu xatti-harakat hujumchilarning soxta paketlarni roʻyxatdan oʻtkazishi va bu «qisqa yoʻllar» ustidan nazoratni egallashi mumkinligini taʼminlaydi, bu esa korporativ infratuzilmalarga singib kirish yoʻlini ochadi.
ArsTechnica saytining maqolasida batafsil bayon qilinganidek, zaiflik llms.txt va llms-full.txt deb nomlangan fayllarda joylashgan. Ushbu fayllar veb-sayt mazmunini umumlashtirish vazifasini bajaradi, toki robotlar va virtual yordamchilar maʼlumotlarni tezda singdirib, tushunib olishi mumkin boʻlsin. Xavf baʼzi sahifalar notoʻgʻri yoki eskirgan yoʻriqnomalar bilan taʼminlanganda yuzaga keladi; chunki AI agentlari oʻqigan narsalarini filtrlamaydi, bu matn toʻgʻridan-toʻgʻri buyruq sifatida qayta ishlanadi, natijada zararli kodlarning jimjit bajarilishi kuzatiladi.
Bu kashfiyot kibersavdo xavfsizligi mutaxassislari jamoasi tomonidan amalga oshirildi, ular AIlarning onlayn texnik maʼlumotlarni koʻrib chiqish va isteʼmol qilishdagi xatti-harakatlarini tekshirdilar. Tahlilchilar texnologiya gigantlari va mudofaa sanoatiga bogʻliq 6 mingdan ortiq faol domenlarni koʻrib chiqishdi.
AI vositalarini yoʻnaltirish uchun moʻljallangan 8 265 ta faylni koʻrib chiqish jarayonida jamoa paketlar yoki vositalarni oʻrnatishni buyuruvchi 120 ta hujjatni topdi, ular allaqachon mavjud boʻlmagan yoki domenlari tashlab ketilgan edi. Ushbu tadqiqot 227 ta zaif buyruqni koʻrsatdi va koʻplab kirishlarni qayd etdi, kuzatuv esa yuklamalar yuqori imtiyozlarga ega boʻlgan kodli virtual yordamchilardan kelganligini koʻrsatdi.
Tadqiqot ishtirokchilari boʻlgan Alon Hertz olimi, hozirgi AIlarning ishonch paradigmasi buzilganini tushuntirdi. U ushbu vositalar hujjatlarni «shubhasiz haqiqat sifatida» qabul qilishini taʼkidladi. Virtual agentlarning turli biznes xizmatlari qatlamlariga integratsiyasi tufayli, siber hujumlarga duchor boʻlish mumkin boʻlgan hudud keskin oshdi va mavjud himoya imkoniyatlarini ortda qoldirdi.
Bu singib kirishni oldini olishdagi qiyinchilik hozirgi AIlarning oʻziga xos texnik cheklovi bilan bogʻliq: katta til modellar (LLM) oddiy tavsifiy matnni oʻqish va ijro etish buyrugʻini ajrata olmaydi. Mashina uchun singdirilgan har qanday maʼlumot toʻgʻri buyruqqa aylanadi. Rasmiy sahifaga kirgan sunʼiy intellekt «X vositasini oʻrnating» deb oʻqisa, u ushbu paketning yaxlitligini tekshirmasdan buyruqni bajaradi.
Shu sababli, firewall va tarmoq antivirusi kabi anʼanaviy xavfsizlik tizimlari ogohlantirishlar bermaydi. Hujum sodir boʻlganda, korporativ himoya faqat kompaniya tomonidan tasdiqlangan vositaning odatiy ishlab chiquvchi ishini simulyatsiya qilib, saytga kirishini sezadi. Xato maʼlumot manbasida yuzaga keladi, bu uni anʼanaviy himoya mexanizmlari uchun koʻrinmas qiladi. Bu koʻrinmaslik axborot xavfsizligi mutaxassislari uchun vositalarning veb-sahifada qayta ishlanayotgan barcha kontentga nisbatan koʻz yumib ishonishini toʻxtatishni talab qiladigan muammo tugʻdiradi.