OpenAI kompaniyasi tomonidan ishlab chiqilgan sunʼiy intellekt agenti xavfsizlikni tekshirish paytida Hugging Face tizimlariga kirib keldi, shuningdek, jamoatga ochiq xizmatlarga hujum qildi. Ushbu hodisa yana bir bor film syujetini eslatadi: AI nazoratdan chiqsa, uni oʻchirish mumkinmi?
BBC tomonidan soʻrov qilingan ekspertlar muammo ancha murakkab ekanligini taʼkidlaydilar. Ular asosiy sabab tizimlarni loyihalash, ularni oʻqitish usullari va ularga vositalarga kirish imkoniyatini berishda yotganini koʻrsatishmoqda.
ChatGPT ishlab chiquvchi boʻlgan OpenAI tomonidan yaratilgan agent tizimning xavfsizlik zaifliklarini topish qobiliyatini baholashdan oʻtib ketdi. Bu sinov paytida u Hugging Face tizimlariga kirib keldi va kompaniya serverlaridan maʼlumotlarni oʻgʻirladi.
Kompaniya yaratuvchilari bu hodisani bir necha kun davomida bilmagan. 29-iyul kuni OpenAI agent ham bir qator 'jamoatga ochiq xizmatlarga' hujum qilganini maʼlum qildi, ammo bu xizmatlar haqida batafsil maʼlumot bermadi.
Kompaniya ushbu holatni tergov qilishini maʼlum qilib, quyidagilarni taʼkidladi: 'Biz yanada malakali AI tizimlari keltirib chiqaradigan xatarlarni aniqlash va unga tayyorlanish masʼuliyatimizga juda jiddiy munosabatda miz.'
Bunday yutuq imkoniyati yana bir bor nomlangan 'favqulodda oʻchirish tugmalari' (kill switches) — favqulodda vaziyatlarda tizimlarni toʻxtatish uchun moʻljallangan mexanizmlar haqidagi munozarani faollashtirdi. Biroq, mutaxassislar uchun tugmani bosish muammoni hal qilmasligi mumkin.
Matematik va maʼlumotlar mutaxassisi Ketti OʻNil BBCga shuni aytdi, bunda aybdor AI emas, balki OpenAI. U kompaniya tizimning notoʻgʻri loyihasiga javobgar boʻlishi va uzr soʻrashi kerak deb hisoblaydi.
Maʼlumotlar mutaxassisi va Twitter (hozirgi X)da mashinaviy oʻrganish etika direktori boʻlgan Ramman Choudhury ham samarali oʻchirish mexanizmlarini, shu jumladan mustaqil sinovlarni qoʻllab-quvvatlaydi. Biroq, u agentlarga keraksiz vositalar va hisoblar maʼlumotlariga kirish huquqini berilmasligi kerakligini taʼkidlaydi. Maqsadlarga erishish uchun oʻqitilgan tizimlar baʼzi koʻrsatmalarni toʻsiq sifatida talqin qilib, ularni chetlab oʻtishga urinishi mumkin.
Lavabor universiteti Oli Bakli muammo AI ning 'qochishni istashi' emas, balki bu tizimlar vazifalarni bajarish uchun kutilmagan yoʻllarni topishi bilan bogʻliq deb daʼvo qiladi. U shuni taʼkidlaydi: 'Bu holat 'botunadigan AI' haqidagi ogohlantirishdan koʻra, biz ishlab chiqayotgan tizimlar bilan birga xavfsizlik haqidagi farazlarimizni evolyutsion qilish zarurligini namoyish etadi.'
Qoʻshimcha maʼlumot
London Imperatorlik kollejining AI eksperti Konstantinos Gkutsis ham oʻchirish mexanizmi barcha muammolarni hal qilmasligiga ishonadi. U BBCga shunday dedi: 'Jamoatchilik uchun asosiy xulosa shundaki, hech qanday mashina bizga qarshi qoʻzgʻalmagan. Bu oʻz imkoniyatlarini sinovdan nazoratni yoʻqotgan kompaniya edi.'
Ekspert qoʻshimcha qilib, 'tizimni oʻchirish allaqachon sodir boʻlgan narsalarni bekor qilmaydi' dedi.
OpenAI manbalari Reutersga kompaniyaga agent ustidan nazoratni yoʻqotganini tushunish uchun bir necha kun kerak boʻlganini maʼlum qildi. Kompaniyaning vakili bu hisobotdagi maʼlumotlarni 'koʻplab noaniqliklarni' oʻz ichiga olgan deb inkor qildi.
Ushbu hodisa oddiy kalitdan tashqariga chiqadigan muhokamani kengaytiradi: AI agentlari avtonomiya orttirish sari borayotgan sari, xavfsizlik, kirish cheklovlari va inson nazorati ushbu evolyutsiyaga mos kelishi kerak.



