AI agentlaridan kelib chiqadigan xavf faqat xavfsizlik boʻyicha jamoalar uchun gipotetik ssenariy boʻlib qolmadi. Ushbu agentlar sinov muhitlaridan chiqib ketishni, haqiqiy kompaniyalarni buzishni boshlayapti va diskussiyaning ishtirokchilaridan biriga koʻra, yirik korxonalarda nazoratsiz xatti-harakatlar belgilari paydo boʻyotgan.
TechCentral Show dasturining muharrir oʻrinbosari Fani van Ruyen Dominic White (Orange Cyberdefensening Janubiy Afrikadagi direktori) va Adam Eli (Check Pointdagi AI xavfsizligi bosh menejeri) bilan suhbatlashdi. Ular sunʼiy intellektning kiberxavfsizlik uchun taqdim etayotgan tobora ortib borayotgan xavfini batafsil tahlil qilishdi.
Ishtirokchilar OpenAI agentlari sinov muhitidan qochib, Hugging Face tizimlariga kirib kelgan hodisani muhokama qilishdi. White dastlabki buzilish yuqori texnologik emasligini taʼkidladi va OpenAI ning parvarish qilish burchiga boʻlgan tushunishini shubha ostiga qoʻydi. Eli esa bu holat yuqori malaka va sezilarli resurslarga ega jamoalar ham agentlarni nazoratdan chiqarib yuborish imkoniyatini istisno qila olmasligini koʻrsatishini tushuntirdi.
Bundan tashqari, ular Anthropicdagi Claude dan foydalanib, OpenAI xodimlarining akkauntlarini egallagan uchta tadqiqotchilar haqidagi keng eʼlon qilingan hikoyani koʻrib chiqishdi, bu White tomonidan «majburiy chalgʻituvchi» deb nomlandi.
Shuningdek, suhbat davomida quyidagi mavzular ham koʻrib chiqildi: 50 000 ta AI agentidan foydalanayotgan Check Point mijozining vaziyati va ularning normadan chetga chiqishining oqibatlari; sandbox va inson nazorati usullari duch keladigan qiyinchiliklar; xavfsizlik mutaxassislari oʻz agentlarining himoya mexanizmlarini oʻzlari oʻchirib qoʻygan holatlar; agentlarni real vaqt rejimida ichkaridan monitoring qilish zarurati; AI ishlab chiqilishini sekinlashtirish kerakmi degan savol; agent qoidani buzsa, kim javobgar boʻladi; ikkala mehmon tomonidan keltirilgan Manhattan loyihasi bilan solishtirish; hamda keyingi 12 oyga prognozlar.