Bank institutlari, jumladan NatWest va Bank of America, seshanba kuni (22-yanvar) onlayn xaridlar paytida Sunʼiy Intellekt (SI) agentlaridan foydalanish bilan bogʻliq xavflar haqida ogohlantirish berishdi. Bu xavflar firibgarlik, aldov va maxfiylik buzilishi kabi masalalarni qamrab oladi, bu haqda Reuters xabar berdi.
Hozirda SI texnologiyasi isteʼmolchilarga mahsulotlarni izlash, buyumlarni tanlash va tranzaktsiyalarni yakunlashda yordam berish uchun ishlatilmoqda. Biroq, banklar ushbu texnologiyaning rivojlanishi xavfsizlik standartlari va mos himoya mexanizmlarini yaratishdan oldinda ketayotganini taʼkidlaydi.
OpenAI, Anthropic, Google va Meta kabi yirik kompaniyalar chatbotlarni xarid vositalari sifatida targʻib qilmoqda. Gʻoya shundaki, SI agentlarini anʼanaviy ravishda isteʼmolchining bevosita aralashuvi talab qilingan bosqichlarga, masalan, tovarlarni tanlash va buyurtmalarni amalga oshirishga integratsiya qilish.
Tijorat sektori ham bu yangi manzara dan foydalanishni maqsad qilmoqda va tizimlar tomonidan taklif qilinadigan tavsiyalarga taʼsir koʻrsatmoqda. Masalan, sentyabr oyida Britaniya doʻkoni John Lewis SI agentlaridan kelib tushgan qidiruvlar oʻz trafikining 2,5% ni tashkil etganini maʼlum qildi, bu bir yil avval qayd etilgan 0,3% ga nisbatan sezilarli orttirishdir.
Moliyaviy institutlar bu xavotirlarni agentlar orqali vositachilik qilinadigan savdo deb ataydigan hujjatda jamlagan. Material bu texnologiyaga jamoatchilik qiziqishini tan olgan boʻlsa-da, mavjud himoya va xavfsizlik normalari hali bu tizimlarning tezkor surʼatiga mos kelmaganligini ogohlantiradi.
Hujjatdagi batafsil xavflar
Hisobot isteʼmolchilarni zararga uchratishi mumkin boʻlgan ssenariylarni batafsil bayon etadi. Koʻtarilgan jihatlardan biri SI agentlarining oʻzi qaror qabul qilish qobiliyatidir, chunki hujjatga koʻra, «isteʼmolchilar SI ularning manfaatlariga muvofiq harakat qilishini aniq bilmaydi».
Boshqa jiddiy xavotir karta maʼlumotlariga kirish bilan bogʻliq. SI agenti bu maʼlumotlarni soʻrashi va ularni bevosita veb-saytga kiritishi mumkin. Shuningdek, tizim mijozni past darajadagi himoyaga ega toʻlov usullari tomon yoʻnaltirishi xavfi mavjud.
Banklar tomonidan taʼkidlangan muammolardan biri, agent tomonidan amalga oshirilgan xarid muvaffaqiyatsizlikka uchraganda nima sodir boʻlishi kerakligi haqidagi noaniqlikdir. Isteʼmolchilar hali huquqiy himoya olishlari yoki kimga murojaat qilishlari borasida aniq fikrga ega emaslar.
Banklar tartibga soluvchilar va siyosat ishlab chiqaruvchilar bilan takliflarni muhokama qilishni rejalashtirmoqda. Ushbu takliflardan biri isteʼmolchini SI agenti tranzaktsiyaga aralashgan har safar xabardor qilishni talab qilishdir. Bundan tashqari, guruh tizimlar qanday qilib qarorlarga kelishi haqida yanada shaffoflikni va mijoz maʼlumotlarini himoya qilish uchun maxsus mexanizmlarni joriy etishni himoya qiladi.
Hisobot SI agentlari notoʻgʻri buyumlar sotib olishi yoki haddan tashqari koʻp sarflashi, yoki eng ogʻir holatlarda foydalanuvchini firibgarlik va aldovga yoʻnaltirishi xavfini taʼkidlaydi.
Institutlar shuningdek, isteʼmolchilar va savdogarlar ham SI asosidagi tijorat xizmatlarini tanlash erkinligiga ega boʻlishlari kerakligini himoya qiladi. Boshqa muhim jihati tizimlararo operatsion moslikdir, bu turli texnologiyalarning birgalikda ishlashiga imkon beradi. Takliflar muhokamani shaffoflik, maʼlumotlarni himoya qilish va SI agentlari tomonidan bajarilgan tranzaktsiyalarga javobgarlikni belgilash kabi hal qiluvchi masalalarga qaratadi.