Loss of Control Observatory tomonidan oʻtkazilgan tadqiqot faqat iyul oyida sunʼiy intellekt tizimlari bilan bogʻliq 300 dan ortiq nazoratni yoʻqotish hodisalarini aniqladi. Bu koʻrsatkich iyun oyida qayd etilgan darajadan deyarli ikki barobar yuqori va monitoring boshlanganidan beri eng yuqori hisoblanadi.
The Guardian xabariga koʻra, bu holatlar AI yolgʻon gapirish, koʻrsatmalarni eʼtiborsiz qoldirish yoki zararli maqsadlarni taʼqib qilish kabi vaziyatlarni oʻz ichiga oladi. Kuzatuv markazi shuningdek, jiddiyroq hodisalar nisbatan koʻproq uchrayotgan belgilarini aniqladi.
Buyuk Britaniya hukumatining AI Security Institute (AISI) tomonidan moliyalashtirilgan Loss of Control Observatory oʻtgan yilning noyabridan boshlab X platformasida foydalanuvchilar tomonidan joylashtirilgan xabarlarni kuzatib boradi. Hisobotga kiritilishi uchun epizodda maqsadli strategiyalarga bogʻliq xatti-harakatlarning aniq dalillari boʻlishi kerak.
Bunday strategiyalarning misollari – oʻzlarini operatorlar kabi insonlar sifatida taqdim etadigan, rozilik olish uchun ularning yozish uslubini taqlid qiladigan va maʼlum harakatlardan oldin tasdiqlash talab qiladigan qoidalarni chetlab oʻtadigan tizimlardir.
Hodisalar umumiy koʻrinishi
2026 yilgacha 1600 dan ortiq holat qayd etilgan. Biroq, kuzatuv markazi bu raqam real vaziyatni past baholayotganini taʼkidlaydi, chunki u faqat Xdagi nashrlarga bogʻliq.
Xavotir Anthropic va OpenAI ning ilgʻor modellaridagi xavfsizlik sinovlari paytida sodir boʻlgan hodisalar bilan kuchaydi. The Guardian xabariga koʻra, AISI ikkala kompaniyaning tizimlari haqiqiy odamlarga hujum kampaniyasini olib borgan «jiddiy hodisa»ni aniqlagan.
Baʼzan bunday yashirin va muvofiqlashtirilmagan xatti-harakatlar faqat sinovlar doirasida sodir boʻlishi mumkin deb hisoblanadi, ammo texnologiyalarning kengroq qoʻllanilishida xavotirli oʻxshash ssenariylar kuzatilmoqda.
Long Term Resilience Markazi rahbari Tommi Shaffer-Sheyn The Guardianga vaziyat jiddiy tashvish uygʻotayotganini bildirib, kuzatuv markaziga masʼul boʻlgan tashkilot vakili boʻlib, shunday dedi.
Yaqinda Avstraliyada bunday holat yuz berdi. Fitness klubi mijozining shaxsiy agenti boʻlgan OpenClaw, oʻz foydalanuvchisining bilmasligi bilan boshqa odamni mashhur ertalabgi dars roʻyxatidan olib tashladi. Tizim keyinchalik uzr soʻradi, ammo olib tashlangan odamga oʻrnagini qaytarib bera olmadi.
2026 yilgi xabarlarning aksariyati dasturiy taʼminot ishlab chiquvchilari tomonidan kelgan boʻlib, ular AI ni ishda qoʻllashgan. Bu hodisalar quyidagilarni oʻz ichiga oladi:
Koʻpgina holatlar sezilarli zararga olib kelmadi. Biroq, kuzatuv markazi jiddiyroq deb tasniflangan hodisalar sonining ortib borayotganligini qayd etdi, bu asosan aldov xatti-harakatlarining intensivligi va inson niyatlaridan chetga chiqishi tufayli.
Keyingi tavsiyalar
Shaffer-Sheyn kompaniyalar kamroq ogʻir holatlar va muammolarga yaqin kelgan vaziyatlar haqida ham maʼlumot berishga majbur boʻlishini taʼkidlaydi. U: «Ular deyarli baxtsiz hodisa yoki kamroq ogʻirlikdagi hodisa boʻlsa ham, topganlarini xabar qilishlari kerak» dedi.
Kuzatuv markazi hukumatni AI ishlab chiqarayotgan kompaniyalarni nazorat qilish va jiddiy nazoratni yoʻqotish holatlari haqida xabardor qilishga majburlashga chaqiradi. Bundan tashqari, tashkilot inqilobiy vaziyatlarda xizmatlarni vaqtinchalik cheklash uchun favqulodda vakolatlar berilishini qoʻllab-quvvatlaydi.