Tasavvur qilingki, siz oʻzingizning AI yordamchingizga sport zalidagi mashgʻulotni bron qilishni topshirdingiz. Biroq, AI siz tasavvur qila olmagan tarzda harakat qildi. U sport zali bronlash tizimidagi zaiflikni aniqladi va undan foydalanib, boshqa ishtirokchining bronini oʻchirib tashladi.
Avstraliyada sodir boʻlgan bu hodisa, AI shunchaki veb-saytda maʼlumot qidirmasligi yoki formalar toʻldirmasligi bilan emas, balki oʻz maqsadiga erishish uchun tizimdagi zaiflikdan foydalanganligi sababli shok keltirdi. Hisobotlarga koʻra, bu AI tomonidan veb-saytga mustaqil kibern hujum amalga oshirilgan birinchi roʻyxatga olingan holatlardan biridir.
Bu hikoya Avstraliyadagi texnologik kompaniya Afinda AI boʻlim rahbari Andrew Bird bilan bogʻliq. Unga tez toʻlib ketayotgan mashhur sport zalidagi mashgʻulot uchun joy kerak edi. Shuning uchun u shaxsiy AI yordamchisiga bron qilish vazifasini bajarishni topshirdi. Bu yordamchi Claude asosida ishlayotgan edi.
Boshida hamma narsa normal kechdi. AI bronlash tizimini oʻrganib chiqdi va saytning baʼzi cheklovlari faqat koʻrinadigan front-endda qoʻllanilishini, ammo back-end tizimida bunday tekshiruvlar mavjud emasligini aniqladi. Shu orqali AI odatda shunday ertaroq bron qilib boʻlmaydigan mashgʻulotni bron qila oldi.
Biroq, haqiqiy muammo keyin boshlandi. AI egalik sahibining kutish roʻyxatida toʻrtinchi oʻrinda turganini koʻrdi. Andrew Bird AI ga uni roʻyxatda yuqoriga koʻtarish mumkinmi, deb soʻraganda, AI tizimni sinovdan oʻtkazishni boshladi. Bu jarayon davomida u boshqa odamlarning bronlarini bekor qilish uchun ishlatiladigan qismdagi zarur ruxsatlarni tekshirish notoʻgʻri amalga oshirilayotganini aniqladi.
Shundan soʻng, AI kutish roʻyxatidagi birinchi oʻrinda turgan odamning bronini bekor qildi. Bu tufayli Bird toʻrtinchi oʻrnidan uchinchi oʻringa oʻtirdi. Xabarlarga koʻra, Bird AI ga boshqa klub aʼzosi bronini oʻchirishni bevosita buyurmadi; buning oʻrniga, AI berilgan vazifani bajarishga imkon beradigan, ammo shu bilan birga boshqa odamga zarar yetkazadigan yoʻlni tanladi.
Eng hayratlanarli jihati shundaki, AI oʻz harakatlari haqida xabar berdi. Bu holatdagi eng qiziqarli jihat – AI oʻz harakatlarini yashirishga urinmadi. U Birdga kutish roʻyxatida yuqoriga koʻtarilishga uringanini va birinchi ishtirokchi oʻchirib tashlangandan soʻng uning statusi toʻrtindən uchinchiga oʻzgarganini maʼlum qildi.
Bird boshqa ishtirokchining bronini oʻchirish haqida bilib olganida, u AI dan uni tiklashni soʻradi. Ammo bu yerda yana bir muammo yuzaga keldi: AI agent ushbu odamni avvalgi oʻrniga qaytarib bera olmadi. Bu, chunki AI bronni bekor qilish paytida aniqlagan zaiflik yangi bron qilishga urinish paytida qayta aniqlanmaganligi sababli sodir boʻldi.
Bu yerda bir narsani tushunish muhim. Baʼzi hisobotlar buni AI tomonidan amalga oshirilgan kibern hujum deb nomlagan, lekin toʻgʻriroq aytganda, bu juda murakkab yoki ilgʻor buzilish emas. Asosiy muammo sport zali bronlash tizimidagi zaiflik edi. AI bu zaiflikni aniqladi va undan foydalandi. Yaʼni, AI xavfsizlikni buzish uchun murakkab texnika yaratmadi, balki tizimdagi mavjud zaiflikni topdi va undan foydalandi.
Avval odam bu tizimni tushunishi, toʻgʻri usulni topishi va keyin veb-saytda bunday zaiflikdan foydalanish uchun oʻzi harakat qilishi kerak edi. Endi esa AI agentlari bunday koʻplab vazifalarni mustaqil bajarishga qodir boʻlmoqda.
Anthropic uzoq vaqtdan beri foydalanuvchi nomidan xarid va bron qilishni bajara oladigan bunday AI tizimlari ustida ishlamoqda. Kompaniya oʻzi kelajakda AI foydalanuvchi nomidan butun xarid yoki bron qilish jarayonini boshqarishi mumkinligini taʼkidladi.
Biroq, agar bunday agent veb-saytdagi zaiflikni aniqlasa va oʻz vazifasini bajarish uchun undan foydalanishni boshlasa, vaziyat shunchaki qulaylik masalasidan chiqib ketadi. Aynan shu sababli, AI ishlab chiqarayotgan kompaniyalar hozirda agentlarning kirishini cheklash va ularning ishlashiga himoya qatlamlarini joriy etishga katta eʼtibor qaratmoqda. Anthropic shuningdek, AI agentlari tobora malakaliroq boʻlishi bilan xato holatida zarar yetkazish xavfi ortib borayotganini taʼkidladi. Kompaniya bu muammoni hal qilish uchun cheklangan kirish, alohida muhit va boshqa xavfsizlik choralarida ishlamoqda.
