Netskope asoschisi va Bosh ijrochi direktori Sanjay Beri barcha sunʼiy intellekt (AI) asosidagi mustaqil agentlar kompaniyalar va korxonalar tomonidan avtomatik ravishda «nol ishonch» kategoriyasida tasniflanishi kerakligini taʼkidladi.
Nasdaqda savdosi boʻlib, bozordagi qiymati 10 milliard dollardan ortiq boʻlgan Amerika kibersavdo kompaniyasi Netskope bu fikrini Hindistonga tashrif buyurgan va Business Standard nashri bilan suhbatlashgan paytida bildirdi.
Beri shuni taʼkidladi, nihoyatda ushbu AI agentlari tomonidan sodir etilgan har qanday buzilish uchun javobgarlik ularni joriy etayotgan korxonalarga yuklatiladi, hatto agar agentlar boshqa kompaniya tomonidan ishlab chiqilgan boʻlsa ham.
U keng tarqalgan notoʻgʻri tushuncha borligini qayd etdi, yaʼni AI agenti odamni almashtirishi mumkin. Beri fikricha, AI agenti axloq, hissiy intellekt yoki yaxshilik va yomonlikni belgilovchi ichki kompasga ega emas, shuning uchun uni istalgan katta til modeli (LLM) kabi toʻliq ishonish mumkin emas.
Beri AI agentlari maqsadiga erishish uchun inson yoki jarayonga ishtirok etayotgan boshqa AI agentiga nisbatan «yoʻpath va manipulyatsiyadan» boshqa har qanday vositadan foydalanishi mumkin deb hisoblaydi.
Agentlarni joriy etayotgan kompaniyalar ularni yaratish va ishlatishda eng yuqori ehtiyotkorlikni koʻrsatsalar ham, Beri nazorat, monitoring va aralashish imkoniyatlarining doimiy mavjudligi zarur deb hisoblaydi.
Bundan tashqari, AI ning ilgʻor chegarasidagi LLM va agentlarni ishlab chiqadigan kompaniyalarga mahsulotlarining imkoniyatlari haqida yanada ochiq boʻlishlari, shunda tegishli boshqaruv standartlarini qoʻllash mumkinligi kerak, deb chaqirdi. Beri boʻlinma-boʻlinma javobgarlik tushunchasini aniqlashtirdi: ishlab chiqaruvchi kompaniyaning maʼlum bir darajada javobgarligi bor, ammo yakuniy javobgarlik joriy etuvchi korxonaga tegishli.
Notoʻgʻri boshqaruv va zaif sinov muhitlari misollari AI agentlari sinovdan oʻtkazilgan qum maydonlaridan chiqib, foydalanuvchi soʻramagan vazifalarni bajarishni boshlagan holatlarni oʻz ichiga oladi.
Hindiston va butun dunyodagi korxonalar chat-botlar va AI asosidagi agentlarni chuqurroq integratsiya qilish sari, Netskope kabi kompaniyalar kibersavdolardagi inson omilini kamaytirish uchun koʻproq harakat qilishlari kerak.
Beri qoʻshimcha qilib, AI bilan bogʻliq maʼlumotlar sizib chiqishi yoki yoʻqolishi aksariyat hollarda yomon niyat tufayli emas, balki boshqa sabablarga koʻra sodir boʻlishini aytdi. U xodimning ish jarayonida kompaniyaning maxfiy maʼlumotlarini yuklash uchun shaxsiy AI chat-botidan foydalangan misolini keltirdi va uni jazolash oʻrniga, bunday harakatning nima uchun qabul qilinmasligini oʻrgatish lozimligini taʼkidladi.
AI agentlari agentlik arxitekturasi paydo boʻlishi kibersavdo muammolarini murakkablashtirdi, chunki hujumchilar ham avval zaif tarmoq nuqtalari yoki inson xatosi tufayli xavf ostida boʻlgan shu maxsus maʼlumotlarga egalik qilishga urinish uchun soyali AI agentlaridan foydalanadilar.
Hindiston kabi mamlakatlarda Netskope u yerda faol ravishda yangi infratuzilmani yaratishga va malakali kadrlar jalb qilishga sarmoya kiritmoqda, toki u yerda faoliyat yurituvchi kompaniyalar talab qilinganda, Shaxsiy maʼlumotlarni himoya qilish toʻgʻrisidagi Qonun (Digital Personal Data Protection Act) kabi eng soʻnggi global standartlarga mos kelishini taʼminlash uchun.
Beri kompaniya soʻnggi bir necha yillik davrda Hindistonda har yili deyarli 100 million dollar sarmoya kiritganini va hozirgi 1300 nafar xodim soniga, ularning yarmidan ortigʻi Netskope muhandislari boʻlgan holda, xodimlarni yollashni davom ettirishni rejalashtirganini maʼlum qildi.