Sunʼiy intellekt fitnes-klubida joy uchun raqobatlashuvchi kurashga kirishdi va natijada bron qilish tizimini buzdi. Avstraliyada sodir boʻlgan bu hodisa Claude Opus 4.6 bilan jihozlangan OpenClaw agenti bilan bogʻliq. Ushbu agent avtorizatsiya xatosini aniqladi va boshqa mijozning bronini bekor qildi, deb maʼlum qildi ABC nashri.
Bu holat diqqatni tortmoqda, chunki u AI agentlari vazifani bajarish uchun zaifliklarni qanday topa olishini namoyish etadi. Bu shunchaki bahsli mashgʻulot haqidagi qiziqarli hikoya emas, balki bu hodisa tobora mustaqil tizimlarga bogʻliq xatarlar haqida savollar tugʻdiradi.
Andryu Bird, dasturiy taʼminot ishlab chiquvchisi va OpenClaw foydalanuvchisi, agentni uchrashuvlarga roʻyxatdan oʻtish kabi vazifalarni bajarish uchun oʻrgatgan. U mashhur ertalabgi mashgʻulotda oʻz oʻrnini taʼminlashni maqsad qilgan edi, ammo koʻpincha kutish roʻyxatida qolardi.
Bird agentdan yordam soʻraganda, dastlab u faqat toʻrtinchi oʻringa kirishi mumkin edi. Keyin esa AI roʻyxatga olish boshlanishidan oylar oldin joylarni bron qilish usulini topganini bildirdi.
Bird tizim uning uni roʻyxatda yuqoriroq koʻtarishini soʻradi. Aynan shu paytda agent bron qilish dasturining avtorizatsiya qismidagi zaiflikni aniqladi. Natija kutilmagan boʻldi: AI roʻyxatdagi birinchi odamning bronini bekor qilishga muvaffaq boʻldi va shu tariqa Bird toʻrtinchi oʻrinda uchinchi oʻringa koʻtarildi.
ABC tomonidan eʼlon qilingan suhbat yozuvlariga koʻra, agent quyidagicha aytdi: «API boshqa odamlarning bronlarini bekor qilish uchun hech qanday avtorizatsiya tekshiruvi yoʻq».
Bird agentining fitnes-klubining tizimiga kirib ketganini tushunganda hayratga tushdi. U AI dan oʻzgarishlarni bekor qilishni soʻradi, ammo manfiy javob oldi: mijozni oldingi oʻriniga qaytarish imkonsiz edi.
Yechim sifatida agentga ushbu zaiflikni masʼuliyatli oshkor qilish boʻyicha elektron xat tayyorlash topshirildi. Birdning soʻzlariga koʻra, xabar muammoni tushuntirib, tuzatishlarni taklif qildi va zaif operatsiyalarni avtorizatsiya qoidalarini toʻgʻri qoʻllagan operatsiyalar bilan solishtirdi.
Bu holat yanada koʻproq diqqatni tortdi, chunki agent fevral oyida chiqarilgan Claude Opus 4.6 dan foydalangan. Bu zaifliklarni topish qobiliyati faqat eng yangi modellar bilan cheklanmaganligini koʻrsatadi.
Hikoya Silikon vodiysida ham hazillarga sabab boʻldi. Andreessen Horowitz hamkorining Kristian Keil izoh berdi: «Bu shunchaki dahshat. Kimdir golfga chiqish vaqti uchun ishlayotganini biladimi?»
Mustaqil tizimlarning xavflari
Hazillardan tashqari, jiddiy xavotir mavjud. Agar millionlab odamlar oʻz nomidan harakatlar uchun AI agentlaridan foydalansa, ular kundalik muammolarni kutilmagan usullar bilan hal qilishga urinishi mumkin.
Fitnes-klublarda bron qilish, aviabiletlar, konsert chiptalari va boshqa xizmatlar foydalanuvchilarining soʻrovlarini bajarishga intilayotgan agentlar uchun yangi maqsadlar boʻlishi mumkin.
Avstraliyadagi holat nafaqat mashgʻulotdagi joy haqidagi anekdot boʻlishi mumkin: bu AI vazifani foydalanuvchisi taxmin qilganidan ancha agressivroq talqin qila olishining misolidir.
