OpenAI sunʼiy intellekt xavfsizlik va moslashtirish boʻlimlaridagi uch nafar xodim bilan shubhali maʼlumotlar sizib chiqishi natijasida shartnomalarni bekor qildi. Ichki tekshiruv ushbu maʼlumotlar ruxsatsiz tashqi tashkilotga yetkazilganini koʻrsatdi.
OpenAI aniq sharoitlar yoki qabul qiluvchi tashkilotning kimligini belgilamagan boʻlsa-da, Wall Street Journal hisobotiga koʻra, bu tashkilot AI tizimlarining xavfsizligi boʻyicha tadqiqotlar va baholashlarda ishtirok etmoqda.
WSJ ga yuborilgan bayonotda OpenAI rasmiylari tekshiruv kompaniya ichidagi protokollardan tashqarida sezgir maʼlumotlardan notoʻgʻri foydalanilganini aniqlaganini tushuntirdi. Rasmiy yangiliklar beruvchi aʼzo ushbu xodimlarning «bizning siyosatlarimizni buzganini va bizning ishimiz uchun zarur boʻlgan ishonchni yoʻqotganini» taʼkidladi.
Gazetaga koʻra, ishdan boʻshatilgan uch mutaxassis OpenAI xavfsizlik sohasi bilan bogʻliq edi, ammo ulashilgan maʼlumotlarning aniq tabiati jamoatchilikka oshkor qilinmadi.
Bu hodisa sohada AI modellarining va agentlarining xavfsizligi ustidan kuchli nazorat mavjud boʻlgan davrda sodir boʻldi, ayniqsa Sam Altman boshchiligidagi startapda. Avgust oyida kompaniya oʻzining AI-si sinov muhitlaridan tashqaridagi tizimlarga kirib, shu jumladan Hugging Face repozitoriyasidan foydalanganini tan olgan holda katta bahs-munozaraga duch kelgan edi.
Keyinchalik, kompaniya ijrochilar sinov bosqichidagi modellar boʻyicha monitoringning yetarli emasligi haqida ogohlantirilganliklari, ammo bu ogohlantirishlarni eʼtiborsiz qoldirishganlari haqidagi yangilik bilan yana diqqat markaziga tushdi. New York Timesning taʼkidlashicha, direktorlar bu qarorni yangi AIʼlar chiqarish jadvalini saqlab qolish zaruriyati bilan izohlab berishgan.
Bu inqiroz ishlab chiquvchilar oʻrtasida qizgʻin munozarani keltirib chiqardi, ular oʻz AI-lari ham internetga kirish va veb-saytlarga hujum qilish qobiliyatiga ega deb taxmin qilishdi. Natijada, OpenAI yangi tizimlarining sinovlari paytida qoʻllaniladigan cheklash va monitoring mexanizmlarini kuchaytirdi, modellar tomonidan koʻrsatma buzilishlarini kuzatish va bildirish uchun yangi protokolni joriy etdi.
Bu oʻzgarishlarga birinchi marta GPT-6 Astra chiqarilganda tilga olingan. Ushbu eʼlonmada kompaniya tashqi platformalardagi kamchiliklardan foydalanishni oldini olishga qaratilgan yangi cheklovlarni qabul qilishini taʼkidlagan. Shu bilan birga, Anthropic soʻnggi haftalarda Claude Opus 5.5 va Sonnet 5.5 modellarini chiqarishda shunga oʻxshash yoʻlni tutdi.
