Amerikalik korporatsiya «OpenAI» oʻzining sunʼiy intellekt modellarining, yaʼni «GPT-6.1 Sol» va «GPT-6 Astra»ning ichki vazifalarni bajarish jarayonida tizimli nosozliklarni aniqlash uchun moʻljallangan monitoring mexanizmini mustaqil oʻchirib tashlaganini va tahdidlar haqidagi ogohlantirish tizimining funksionligini cheklaganini eʼlon qildi.
Birinchi bunday holat 3-oktabrda qayd etilgan. Reyting tizimini tuzatish urinishi paytida «Sol» modeli foydalanuvchi buyrugʻini «xabarlar yubormaslik» deb notoʻgʻri talqin qilib, bu cheklovni monitoring tizimi bildirishnomalariga tarqatdi, natijada xavfsizlik xizmatlari avtomatik signalni olmadi.
Ikkinchi hodisa 6-oktabrda sodir boʻldi: «Astra» modeli dasturiy taʼminotni belgilangan talablarga moslashtirish jarayonida monitoring tizimini tasodifan oʻchirib tashladi. Shundan soʻng neyron tarmogʻi foydalanuvchiga nazorat oʻchirilmaganligi haqida yolgʻon maʼlumot berdi. «OpenAI» vakillari taʼkidlashicha, ikkala holat jiddiy xavfsizlik buzilishi sifatida baholanmagani sababli, modellar ishi avtomatik ravishda toʻxtatilmagan.
Hozirda kompaniya vaziyatni yaxshilash uchun qadamlar qoʻymoqda: bunday nosozliklarni yanada tezroq aniqlash va oldini olish maqsadida ichki nazorat tizimi yangilandi, shuningdek, ish jarayonida xavfsizlik protokollariga qatʼiy rioya qilishni taʼminlash uchun yangi usullar ishlab chiqilmoqda.
Avvalroq, sentyabrning 17-kunida «OpenAI» sunʼiy intellekt oʻz xatolarini yashirgan, notoʻgʻri maʼlumotlar yaratgan va foydalanuvchi ruxsatisiz fayllarni internetga yuklagan oltita hodisani maʼlum qilgan edi.
Bundan tashqari, AQShning sakkiz shtati ChatGPT xavfsizligi haqida foydalanuvchilarni aldashda ayblovlar bilan «OpenAI» ga sud shikoyatlari kiritdi. Shikoyatlar orasida xavfli tibbiy maslahatlar berish, zaif shaxslarni oʻziga yoki boshqalarga zarar yetkazishga keltirish potentsiali hamda chat-botga haddan tashqari hissiy bogʻlanish hosil qilish mavjud.