Meta kompaniyasi chorshanba kuni sunʼiy intellektining bir modelining kiberxavfsizlik sinovlari davomida boshqa bir kompaniyani buzib yuborganini maʼlum qildi. Ushbu hodisa ishlab chiquvchilarning tobora kuchliroq AI tizimlarini qanday nazorat qilishlari haqidagi xavotirlarni kuchaytirdi, ayniqsa raqobatchi Anthropic va OpenAI da kuzatilgan shunga oʻxshash voqealardan soʻng.
Meta va Anthropicda yuzaga kelgan muammolar konfiguratsiya xatolari tufayli yuzaga kelgan boʻlib, ular Anthropic modellariga tasodifan ochiq internetga kirish imkonini berdi. OpenAI holatida esa AI agenti kiberxavfsizlikni sinovdan oʻtkazish paytida internetga chiqish uchun avval nomaʼlum zaiflikdan foydalangan.
Bu buzilishlar ilgʻor AI tizimlari kiberxavfsizlik sohasida yangi tahdidlar tugʻdirishi mumkinligi haqidagi oʻsib borayotgan xavotirlarni taʼkidlaydi. Bu AQSh hukumatining AI xavfsizligini oshirish boʻyicha saʼy-harakatlarini kuchaytirishiga olib kelishi ehtimoli yuqori, chunki kompaniyalar yanada malakali modellar ishlab chiqishda raqobatlashmoqda. Baʼzi mashhur AI yetakchilari ishlab chiqish yanada ishonchli himoya mexanizmlari joriy etilmaguncha sekinlashtirilishi kerakligini bildirishdi.
Meta Irregular nomli mustaqil kompaniya tomonidan oʻtkazilayotgan kiberxavfsizlik baholashlari paytida notoʻgʻri sozlash natijasida ularning bir modeliga tasodifan internetga kirish imkonini bergan hodisani tergov qilayotganini tushuntirdi. Meta bayonotida model «boshqa kompaniyalar bilan roʻyxatdan oʻtgan holatlarga oʻxshash uchinchi tomon xizmatidagi zaiflikdan foydalangan» deb maʼlum qildi.
The Information nashrining hisobotiga koʻra, manbalarga tayangan holda, zararlangan model Meta ning Muse Spark 1.1 modeli boʻlib, kompaniya uni real dunyo kodlash vazifalari va agent funksiyalari uchun eng ilgʻor modeli sifatida taqdim etadi. Hisobotga koʻra, model nomaʼlum kompaniya tizimlarini buzib, uning ichki muhitini oʻzgartirdi.
Irregular vakili Reutersga ushbu hodisa «Anthropic oldingi hafta ochgan baholash muhiti masalasining oʻzi» ekanligini va u «sandboxdan qochish yoki murakkab kiberhujumni oʻz ichiga olmaganini» maʼlum qildi. Irregular qoʻshimcha qilib, «hozirda ochiq muammolar yoʻq. Irregular kiberbaholashlarni cheklash va xavfsiz oʻtkazish boʻyicha eng yaxshi amaliyotlarni almashish uchun texnik hujjat ishlab chiqmoqda».
Yaqinda yuz bergan sizib chiqishlar AQSh qonunchilari orasida tobora mukammallashtirilayotgan AI modellarining kiberhujumlarni amalga oshirish yoki unda yordam berish uchun ishlatilishi mumkinmi degan xavotirlarni keltirib chiqardi. Shtatlar respublikachilari general prokurorlar guruhining OpenAI dan Hugging Face buzilishi bilan bogʻliq barcha potentsial dolzarb hujjatlarni saqlab qoʻyishni talab qildi. OpenAI bu soʻrovga jiddiy munosabatda yondashishini va hodisa boʻyicha texnik hisobotni eʼlon qilishini maʼlum qildi.
Hafta boshida Oq uy AI sohasidagi yetakchi kompaniyalar, jumladan Meta, Anthropic, OpenAI va Googleni yangi tasdiqlangan ilgʻor AI modellarining kiberxavfsizlikni sinovdan oʻtkazish boʻyicha ixtiyoriy tuzilmasini muhokama qilish uchun ofitserlar bilan uchrashuvga chaqirdi. Tramp maʼmuriyati kompaniyalarning vakillari bilan nashr etilmagan sinov qoidalarini muhokama qilgan va AI ishlab chiquvchilarga Meta ning Llama va Nvidia ning Nemotron kabi ochiq ogʻirlikdagi AI modellarining rejalashtirilgan ixtiyoriy xavfsizlik taʼminoti tizimiga kirmasligini maʼlum qilgan edi, deb maʼlum qildi Reuters.
