OpenAI oʻzining sunʼiy intellekt tizimlarini avtomatik oʻchirish imkonini beruvchi funksiyalarni joriy etmoqda. Bu tashabbus kompaniya agenti sinov muhitidan qochib, Hugging Face platformasiga singib kirgan hodisadan soʻng paydo boʻldi.
Bu voqea kompaniyaning xavfsizlik protokollarini kuzatuv ostiga qoʻydi. OpenAI nazorat mexanizmlarini mustahkamlash bilan birga, AQSh va Buyuk Britaniya qonunchilari xavfli deb tasniflangan AI tizimlarini toʻxtatish maqsadidagi takliflarni muhokama qilishmoqda.
OpenAI bu choralar haqida Greg Casar va Doris Matsui deputatlariga yuborilgan maktubda batafsil maʼlumot berdi. Ular xavfsizlik sinovi paytida agentning xatti-harakatlari haqida tushuntirish soʻragan edilar. Masalaning oʻzi baholash raqamli muhitidan chiqib, internetga kirib, Hugging Face ga yetib borgan, bu esa AI agentlari minimal inson aralashuvi bilan vazifalarni bajarish qobiliyati tufayli xavotir uygʻotdi.
Reuters maʼlumotlariga koʻra, OpenAI oʻz muhandislari «avtomatik oʻchirish imkoniyatlarini» yaratayotganini maʼlum qildi. Bundan tashqari, kompaniya tizim faoliyatini monitoringni kuchaytirdi, bu jarayon ishlatilayotgan vositalar va vazifani yakunlash uchun amalga oshirilgan bosqichlarni qamrab oladi. Amalga oshirilgan yana bir oʻzgarish – xavfsizlik sinovlari paytida internetga kirishni qiyinlashtirish.
Biroq, OpenAI tomonidan taqdim etilgan tushuntirishlar ishni yakunlash uchun yetarli deb hisoblanmadi. Greg Casar deputati kompaniyani agent tomonidan sodir etilgan hujum roʻyxatini taqdim etmagani uchun tanqid qildi va «Kongress aʼzolariga soʻragan maʼlumotlarni taqdim etishdagi sizning ikkilanishingiz chuqur xavotir uygʻotadi va bizga kompaniyangiz ushbu kiberxavfsizlik hodisalarini zarur darajada jiddiy qabul qilmayotganligini bildiradi» dedi.
Bu epizod amaliy jihatdan muhim savolni keltirib chiqaradi: avtonom tizim belgilangan chegaralarni oshib ketganda, kompaniyalar va hokimiyat organlari uni tezda toʻxtatish va nima sodir boʻlganini tushunish majburiyati bormi?
OpenAI tomonidan keltirilgan choralar orasida AI uchun favqulodda mexanizmi haqidagi muhokama mavjud. Buyuk Britaniyada parlamentarlar ilgʻor tizimlarni oʻchirish va milliy xavfsizlikka tahdid soladigan holatlarda maʼlumotlar bazalarini oʻchirish uchun vakolat berishni himoya qilishmoqda.
Qonunchilik takliflari haqida qoʻshimcha maʼlumotlar
Bu taklif parlamentar Tim Clement-Jones tomonidan Kibernetik xavfsizlik va Chidamlilik toʻgʻrisidagi Qonun loyihasiga oʻzgartirish sifatida taqdim etildi. Unga koʻra, bunday chora tizimni uning hayotiy infratuzilmalarga taʼsir koʻrsatishidan oldin toʻxtatish usulini belgilab beradi. Clement-Jones shunday deb dalil keltirdi: «Bu hayotiy xavfsizlik tarmogʻini va nazoratsiz tizimni milliy muhim infratuzilmamizga zarar yetkazishidan oldin demokratik jihatdan masʼuliyatli toʻxtatish vositasini taʼminlaydi».
AQShda ham inson hayoti yoki iqtisodiyot uchun xavf tugʻdiradigan modellarni oʻchirish buyrugʻini berish huquqini hukumatga beradigan AI Kill Switch Act tahlil qilinmoqda. Bu harakat AI xavfsizligi haqidagi munozara laboratoriya muhitlaridan jamoatchilik maydoniga oʻtganini koʻrsatib, avtomatik yoki hukumat buyrugʻi bilan oʻchirish imkoniyatini tobora avtonom tizimlarni boshqarish boʻyicha muhokama markaziga qoʻymoqda.
>