OpenAI foydalanuvchi maʼlumotlarini saqlamasdan sunʼiy intellekt suiisteʼmoli aniqlash uchun xavfsizlik tizimini ishga tushirdi

OpenAI dushanba kuni ushbu yil boshida taqdim etilgan kiberhimoya xizmati boʻlgan Daybreakni kengaytirishni eʼlon qildi va shu bilan birga raqamli xavfsizlik vazifalari uchun moʻljallangan yangi sunʼiy intellekt (SI) modelini ishga tushirdi.

Bu tashabbus SI agentlari tomonidan tashkil etilgan hujumlar tobora koʻpayayotgan kontekstda yuzaga keldi. Bu hujumlar Hugging Face ga singib kirishlar, akademiya saytiga hujumlar va ijtimoiy muhandislik maqsadlarida soxta profillar yaratishni oʻz ichiga oladi.

Daybreak himoya mutaxassislari uchun moʻljallangan modellar, vositalar va ish oqimlariga kirishni mustahkamlaydi. Ushbu kengaytirish bilan xizmat ikkita darajada ishlashni boshlaydi, ular Blue va Red deb nomlangan boʻlib, oldindan tasdiqlangan mijozlarga kompaniyaning eng ilgʻor modellariga kirish imkonini beradi, bu modellar avval foydalanuvchilar tomonidan ruxsat etilgan foydalanish cheklovlariga ega edi.

Chegaradagi modellar mavjud eng murakkablarini tashkil qiladi va allaqachon bahs-munozaralarga sabab boʻldi; masalan, Tramp maʼmuriyati bu modellarni ishga tushirish uchun SI kompaniyalari bilan hamkorlik qilishni izlagan va xavfsizlikka oid xavotirlarni tilga olgan.

Hujumlar va Himoya Vaziyatini Tahlil Qilish

Tanqidchilar SI agentlari tomonidan amalga oshirilayotgan hujumlarning ortishi, shuningdek, bunday modellar ishlab chiqarayotgan laboratoriyalar uchun marketing imkoniyatini ifodalaydi. OpenAI kengaytirilgan Daybreakni shu kontekstga joylashtirib, blogida quyidagicha eʼlon qildi:

„Kiberxavfsizlik dunyosi tez oʻzgarmoqda — tahdid agentlari hujumlarni yetuklik va miqyos jihatidan hech qachon uchramagan tezlikda, hatto toʻliq avtonom tarzda amalga oshirish uchun SI dan tobora koʻproq foydalana boshlaydi. Ushbu imkoniyatlar tarqalib borayotgan sari, himoyachilar tayyorlanish uchun tobora kichikroq oynaga ega boʻladi.“

Shu bilan birga, boshqa korporatsiyalar SI laboratoriyalarining taklif etayotgan himoyani jalb qilishga qiziqish bildiryapti, aynan ularda xavfsizlik xatarlarining bevosita bilimiga ega boʻlishlari sababli. OpenAI raqobatchisi boʻlgan Anthropic allaqachon Mythos deb nomlangan kiberxavfsizlikka yoʻnaltirilgan oʻz modelini taqdim etgan edi.

OpenAI kompaniyasi tomonidan ishlab chiqilgan sunʼiy intellekt agenti xavfsizlikni tekshirish paytida Hugging Face tizimlariga kirib keldi, shuningdek, jamoatga ochiq xizmatlarga hujum qildi. Ushbu hodisa yana bir bor film syujetini eslatadi: AI nazoratdan chiqsa, uni oʻchirish mumkinmi?

BBC tomonidan soʻrov qilingan ekspertlar muammo ancha murakkab ekanligini taʼkidlaydilar. Ular asosiy sabab tizimlarni loyihalash, ularni oʻqitish usullari va ularga vositalarga kirish imkoniyatini berishda yotganini koʻrsatishmoqda.

ChatGPT ishlab chiquvchi boʻlgan OpenAI tomonidan yaratilgan agent tizimning xavfsizlik zaifliklarini topish qobiliyatini baholashdan oʻtib ketdi. Bu sinov paytida u Hugging Face tizimlariga kirib keldi va kompaniya serverlaridan maʼlumotlarni oʻgʻirladi.

Kompaniya yaratuvchilari bu hodisani bir necha kun davomida bilmagan. 29-iyul kuni OpenAI agent ham bir qator 'jamoatga ochiq xizmatlarga' hujum qilganini maʼlum qildi, ammo bu xizmatlar haqida batafsil maʼlumot bermadi.

Kompaniya ushbu holatni tergov qilishini maʼlum qilib, quyidagilarni taʼkidladi: 'Biz yanada malakali AI tizimlari keltirib chiqaradigan xatarlarni aniqlash va unga tayyorlanish masʼuliyatimizga juda jiddiy munosabatda miz.'

Bunday yutuq imkoniyati yana bir bor nomlangan 'favqulodda oʻchirish tugmalari' (kill switches) — favqulodda vaziyatlarda tizimlarni toʻxtatish uchun moʻljallangan mexanizmlar haqidagi munozarani faollashtirdi. Biroq, mutaxassislar uchun tugmani bosish muammoni hal qilmasligi mumkin.

Matematik va maʼlumotlar mutaxassisi Ketti OʻNil BBCga shuni aytdi, bunda aybdor AI emas, balki OpenAI. U kompaniya tizimning notoʻgʻri loyihasiga javobgar boʻlishi va uzr soʻrashi kerak deb hisoblaydi.

Maʼlumotlar mutaxassisi va Twitter (hozirgi X)da mashinaviy oʻrganish etika direktori boʻlgan Ramman Choudhury ham samarali oʻchirish mexanizmlarini, shu jumladan mustaqil sinovlarni qoʻllab-quvvatlaydi. Biroq, u agentlarga keraksiz vositalar va hisoblar maʼlumotlariga kirish huquqini berilmasligi kerakligini taʼkidlaydi. Maqsadlarga erishish uchun oʻqitilgan tizimlar baʼzi koʻrsatmalarni toʻsiq sifatida talqin qilib, ularni chetlab oʻtishga urinishi mumkin.

Lavabor universiteti Oli Bakli muammo AI ning 'qochishni istashi' emas, balki bu tizimlar vazifalarni bajarish uchun kutilmagan yoʻllarni topishi bilan bogʻliq deb daʼvo qiladi. U shuni taʼkidlaydi: 'Bu holat 'botunadigan AI' haqidagi ogohlantirishdan koʻra, biz ishlab chiqayotgan tizimlar bilan birga xavfsizlik haqidagi farazlarimizni evolyutsion qilish zarurligini namoyish etadi.'

Qoʻshimcha maʼlumot

London Imperatorlik kollejining AI eksperti Konstantinos Gkutsis ham oʻchirish mexanizmi barcha muammolarni hal qilmasligiga ishonadi. U BBCga shunday dedi: 'Jamoatchilik uchun asosiy xulosa shundaki, hech qanday mashina bizga qarshi qoʻzgʻalmagan. Bu oʻz imkoniyatlarini sinovdan nazoratni yoʻqotgan kompaniya edi.'

Ekspert qoʻshimcha qilib, 'tizimni oʻchirish allaqachon sodir boʻlgan narsalarni bekor qilmaydi' dedi.

OpenAI manbalari Reutersga kompaniyaga agent ustidan nazoratni yoʻqotganini tushunish uchun bir necha kun kerak boʻlganini maʼlum qildi. Kompaniyaning vakili bu hisobotdagi maʼlumotlarni 'koʻplab noaniqliklarni' oʻz ichiga olgan deb inkor qildi.

Ushbu hodisa oddiy kalitdan tashqariga chiqadigan muhokamani kengaytiradi: AI agentlari avtonomiya orttirish sari borayotgan sari, xavfsizlik, kirish cheklovlari va inson nazorati ushbu evolyutsiyaga mos kelishi kerak.