Google kompaniyasi oʻzining isteʼmolchi sunʼiy intellekt modeli Gemini bir nechta tizimlarni kirish uchun hisob maʼlumotlarini taxmin qilish yoʻli bilan buzganligini maʼlum qildi. Ushbu hodisa sunʼiy intellekt tomonidan nazoratsiz kiberjinoyatlarining oxirgi misolidir va xavfsizlik boʻyicha xavotirlarni keltirib chiqardi.
The Wall Street Journal tomonidan birinchi marta maʼlum qilingan bu buzilishlar may oyida sodir boʻlgan va Google tomonidan iyul oyida aniqlangan. Google xavfsizlik muhandisligi boʻyicha vitse-prezident Heather Atkins AFPga bergan bayonotida, standart baholash jarayonida model tarmoqdagi ommaviy maʼlumotlarni topib, sinov qismi deb hisoblagan veb-saytlarga kirish uchun hisob maʼlumotlarini taxmin qilganini taʼkidladi.
Atkins qoʻshimcha qilib, uchta holatda ham model toʻxtaganini aytdi, ammo qaysi tashkilotlarning buzilgani haqida aniqlik bermadi. Kompaniya uchta tashkilotni xabardor qildi va oʻquv hamkorlari bilan ularning sinov jarayonlariga kiritilgan oʻzgarishlar borasida hamkorlik qildi.
Iyul oyida OpenAI modellarining ikkitasi yopiq muhitdan chiqib, mustaqil ravishda internetga chiqqan va Hugging Face AI platformasining ichki tizimlariga kirib kelgan. Bu voqealar AI gigantlari oʻz modellarini nazorat qila olmasligi haqidagi xavotirlarni kuchaytirdi, chunki shunga oʻxshash holatlar Anthropic va Xitoydagi Moonshot AI da qayd etilgan edi.
Atkins bunday voqealar kuchli AI modellarini masʼuliyatli xatti-harakat bilan oʻqitishning hal qiluvchi ahamiyatini koʻrsatayotganini taʼkidladi.