NetEase Yidun Vujengda AI agentlarining harakatlarini nazorat qilish uchun Agent Guardni taqdim etdi

WSO2 bosh ijrochi direktori Harry Ault korporatsiyalar sunʼiy intellekt (AI) asosidagi tizimlarning barcha tarmoq komponentlari bilan qanday xulq-atvor qilishini va ular qanday oʻzaro taʼsirlashini chuqurroq tushunishlari kerakligini, faqatgina maʼlum agentlar uchun ushbu tarmoqlarga kirish masalasiga eʼtibor qaratish oʻrniga, taʼkidladi.

2005 yilda tashkil etilgan va ochiq dasturiy taʼminotga ixtisoslashgan AQSh kompaniyasi boʻlgan WSO2 korxonalar uchun dasturiy tizimlarni integratsiya qilish, foydalanuvchilar identifikatsiyasi va kirish xavfsizligini taʼminlaydi.

Aultning soʻzlariga koʻra, AI asosidagi agentlar bir vaqtning oʻzida qoʻllanilayotgan boʻlsa-da, ularning aksariyati aniq tizimlarda qoʻllanilgan, bu yerda xavfsizlik va boshqaruv bevosita tarmoqqa singdirilgan, bu esa agentlarga belgilangan chegaralar tashqarisida vazifalarni bajarish uchun kam imkoniyatlar qoldirgan.

U generativ AI ga oʻtish noaniq natijalarni bashorat qilishning iloji boʻlmagan ehtimollikli ssenariylarga olib kelayotganini va bu ishlab chiqarish darajasidagi ilovalar uchun jiddiy muammo tugʻdirayotganini, shuningdek, bu oʻzgarish barcha korxonalarda sodir boʻlayotganini qayd etdi.

Bunday agentlarni nazorat qilish uchun kompaniyalar tayyor yechimlardan foydalanish oʻrniga, oʻzlarining AI boshqaruv rejalarini ishlab chiqishi, simulyatsiya shlyuzlari va autentifikatsiya xizmatlarini yaratishi kerak, shu tariqa intellektual mulkni cheksiz saqlab qolishlari mumkin.

Ault joriy yilning avgust oyida pensiyaga chiqqan asoschi va uzoq muddatli rahbari Sanjiva Vieravaran dan WSO2 bosh ijrochi direktori lavozimini oldi. Ault AI tufayli yuzaga keladigan barcha muammolar, masalan, agentlarning nazoratsiz xatti-harakati yoki katta til modellarining vazifasiga mos kelmaydigan javoblarni berishi, «ochiq kod va ochiq standartlar» tufayli hal qilinishiga ishonadi, bu koʻproq odamlarga bitta muammoni birgalikda hal qilish imkonini beradi.

U shuni qoʻshimcha qildi,ki, deyarli barcha jahon texnologiya va mahsulot kompaniyalari uchun daromad olish imkoniyatlarining katta qismi AI bilan bogʻliq talabdan kelib chiqadi va bu tendensiya yaqin kelajakda ham davom etishi ehtimoli bor.

Oʻsish haqida gapirganda, Ault AI sohasidagi mavjud barcha muammolarni hal qilish zarurligini taʼkidladi, undan soʻng kompaniya boshqa firmalar bilan byudjetlar ustida muhokama oladi va ularga tegishli yechimlarni taklif qiladi.

U AQSh va Hindiston kabi mamlakatlar va mintaqalarda «AI-first» yondashuvi barcha kompaniyalar uchun standartga aylanganini maʼlum qildi. Shu bilan birga, u Hindistonga alohida urgʻu berdi, bu yerda texnologiya taʼminlashi mumkin boʻlgan miqyos va qiymat boshqa hech bir mintaqada topilmasligi mumkinligini taʼkidladi.

Dunyo boʻylab 92 ta mamlakatdagi taxminan 950 ta mijozga xizmat koʻrsatadigan kompaniya Hindistonda yirik davlat muassasalari, tartibga soluvchilar va moliyaviy tashkilotlar bilan ham hamkorlik qiladi. Bundan tashqari, u Hindistonda asoschilar boshchiligidagi mahsulot kompaniyalari kuchli rivojlanishini eslatdi, bu generativ AI texnologiyalari yaxshilanishi natijasida WSO2 kabi kompaniyalarga ona kompaniya tomonidan sotib olish yoki birlashish uchun koʻplab variantlar beradi.

Netskope asoschisi va Bosh ijrochi direktori Sanjay Beri barcha sunʼiy intellekt (AI) asosidagi mustaqil agentlar kompaniyalar va korxonalar tomonidan avtomatik ravishda «nol ishonch» kategoriyasida tasniflanishi kerakligini taʼkidladi.

Nasdaqda savdosi boʻlib, bozordagi qiymati 10 milliard dollardan ortiq boʻlgan Amerika kibersavdo kompaniyasi Netskope bu fikrini Hindistonga tashrif buyurgan va Business Standard nashri bilan suhbatlashgan paytida bildirdi.

Beri shuni taʼkidladi, nihoyatda ushbu AI agentlari tomonidan sodir etilgan har qanday buzilish uchun javobgarlik ularni joriy etayotgan korxonalarga yuklatiladi, hatto agar agentlar boshqa kompaniya tomonidan ishlab chiqilgan boʻlsa ham.

U keng tarqalgan notoʻgʻri tushuncha borligini qayd etdi, yaʼni AI agenti odamni almashtirishi mumkin. Beri fikricha, AI agenti axloq, hissiy intellekt yoki yaxshilik va yomonlikni belgilovchi ichki kompasga ega emas, shuning uchun uni istalgan katta til modeli (LLM) kabi toʻliq ishonish mumkin emas.

Beri AI agentlari maqsadiga erishish uchun inson yoki jarayonga ishtirok etayotgan boshqa AI agentiga nisbatan «yoʻpath va manipulyatsiyadan» boshqa har qanday vositadan foydalanishi mumkin deb hisoblaydi.

Agentlarni joriy etayotgan kompaniyalar ularni yaratish va ishlatishda eng yuqori ehtiyotkorlikni koʻrsatsalar ham, Beri nazorat, monitoring va aralashish imkoniyatlarining doimiy mavjudligi zarur deb hisoblaydi.

Bundan tashqari, AI ning ilgʻor chegarasidagi LLM va agentlarni ishlab chiqadigan kompaniyalarga mahsulotlarining imkoniyatlari haqida yanada ochiq boʻlishlari, shunda tegishli boshqaruv standartlarini qoʻllash mumkinligi kerak, deb chaqirdi. Beri boʻlinma-boʻlinma javobgarlik tushunchasini aniqlashtirdi: ishlab chiqaruvchi kompaniyaning maʼlum bir darajada javobgarligi bor, ammo yakuniy javobgarlik joriy etuvchi korxonaga tegishli.

Notoʻgʻri boshqaruv va zaif sinov muhitlari misollari AI agentlari sinovdan oʻtkazilgan qum maydonlaridan chiqib, foydalanuvchi soʻramagan vazifalarni bajarishni boshlagan holatlarni oʻz ichiga oladi.

Hindiston va butun dunyodagi korxonalar chat-botlar va AI asosidagi agentlarni chuqurroq integratsiya qilish sari, Netskope kabi kompaniyalar kibersavdolardagi inson omilini kamaytirish uchun koʻproq harakat qilishlari kerak.

Beri qoʻshimcha qilib, AI bilan bogʻliq maʼlumotlar sizib chiqishi yoki yoʻqolishi aksariyat hollarda yomon niyat tufayli emas, balki boshqa sabablarga koʻra sodir boʻlishini aytdi. U xodimning ish jarayonida kompaniyaning maxfiy maʼlumotlarini yuklash uchun shaxsiy AI chat-botidan foydalangan misolini keltirdi va uni jazolash oʻrniga, bunday harakatning nima uchun qabul qilinmasligini oʻrgatish lozimligini taʼkidladi.

AI agentlari agentlik arxitekturasi paydo boʻlishi kibersavdo muammolarini murakkablashtirdi, chunki hujumchilar ham avval zaif tarmoq nuqtalari yoki inson xatosi tufayli xavf ostida boʻlgan shu maxsus maʼlumotlarga egalik qilishga urinish uchun soyali AI agentlaridan foydalanadilar.

Hindiston kabi mamlakatlarda Netskope u yerda faol ravishda yangi infratuzilmani yaratishga va malakali kadrlar jalb qilishga sarmoya kiritmoqda, toki u yerda faoliyat yurituvchi kompaniyalar talab qilinganda, Shaxsiy maʼlumotlarni himoya qilish toʻgʻrisidagi Qonun (Digital Personal Data Protection Act) kabi eng soʻnggi global standartlarga mos kelishini taʼminlash uchun.

Beri kompaniya soʻnggi bir necha yillik davrda Hindistonda har yili deyarli 100 million dollar sarmoya kiritganini va hozirgi 1300 nafar xodim soniga, ularning yarmidan ortigʻi Netskope muhandislari boʻlgan holda, xodimlarni yollashni davom ettirishni rejalashtirganini maʼlum qildi.