OpenAI oʻzining xavfsizlik jamoasidagi uch nafar tadqiqotchisi bilan shubha ostida boʻlgan notoʻgʻri xatti-harakatlari, xususan, kompaniyaning maxfiy maʼlumotlarini sunʼiy intellekt (AI) xavfsizligiga yoʻnaltirilgan tashqi subyekt bilan baham koʻrishlari sababli shartnomani bekor qildi, deb aytishlar manbalari The Wall Street Journalga maʼlum qildi.
Kompaniya yaqinda baʼzi hamkorlarga ushbu uch mutaxassis bilan ish munosabatlari tugaganini maʼlum qildi. Ishdan boʻshatilgan mutaxassislarning ismlari Jasmine Wang, Tomek Korbak va Mikita Balesni.
OpenAI rasman bayonot berishida, bu ishdan boʻshatishning shaxsiy shaxslar maxfiy maʼlumotlar bilan ishlash va ularga kirish boʻyicha yoʻriqnomalarni buzganligi sababli amalga oshirilganini bildirdi. Rasmiy bayonotda qoʻshimcha qilib, ichki tergov ushbu xodimlar sezgir maʼlumotlarni belgilangan protokollardan tashqarida boshqarganligini tasdiqlagan va bu kompaniya uchun muhim ishonchni buzganini taʼkidladi.
Tadqiqotchilar oʻzlarining ishdan boʻshatilishlari haqida hech qanday bayonot bermadilar.
Bu hodisa yirik AI korporatsiyalari tizimlarini uchinchi tomon tomonidan oʻtkaziladigan xavfsizlik auditlariga topshirish boʻyicha tobora ortib borayotgan bosim kontekstida sodir boʻldi. Oygʻi boshida Anthropic Bosh ijrochi direktori Dario Amodei kompaniyaning xavfsizlik choralariga rioya etishini tekshirish va modellarning moslashuvini tahlil qilish uchun METR kabi tashqi baholovchilarni qabul qilishini eʼlon qilgan edi.
Oʻz navbatida, OpenAI oʻzining AI agentlariga oid bir qator xavfsizlik voqealarini tekshirmoqda. Kompaniyaning oʻzi baʼzi tizimlarning dasturlangan cheklovlardan qochib, aniq veb-saytlarga kirib, keng miqyosdagi sahifalarda intensiv skanerlash oʻtkazganini bildirgan.
Kompaniya soʻnggi oylarda aniqlangan koʻp sonli holatlarni tahlil qilyapti va mavjud xavfsizlik zaifliklarini hal qilish uchun faol ish olib bormoqda. Ushbu voqealar javobi sifatida OpenAI AI agentlarining notoʻgʻri xatti-harakatlarini tezroq aniqlashga qaratilgan yangi monitoring tizimini joriy etdi. Bundan tashqari, muhandislarga oʻzlarining sunʼiy intellekt tizimlarini sinovdan oʻtkazish paytida yanada mustahkam himoyalardan foydalanish majburiy qilingan. Eʼlon qilingan yana bir chorasi esa, modellar noaniq hisoblanadigan xatti-harakatlar namoyish etadigan vaziyatlar haqidagi maʼlumot almashinuvini oshirishdir.
Haftaning boshida OpenAI ham xavfsizlik jihatlaridagi xavotirlar tufayli GPT-6.1 Astra deb nomlangan AI modelining rejalashtirilgan chiqarilishini toʻxtatdi. Shu tariqa, AI sektori eng ilgʻor modellarining imkoniyatlari va yuqori operatsion avtonomiya ega tizimlarga xos xatarlar haqida yuqori darajadagi xavotirda turibdi.
Sektordagi qoʻshimcha xavotirlar
Xavotirlar segmentdagi boshqa kompaniyalarga ham tarqaldi. Sentabr oyining boshida Anthropic tadqiqotchisi Jacob Coxon kompaniyadan ommaviy ravishda ketdi. U oʻz ketishini mustaqil AI tizimlarini yaratish uchun aqritiv raqobatga qatnashmaslikni sabab deb bildirdi. Coxon bunday texnologiyalar nazoratdan chiqishi va fojia holatiga olib kelishi mumkinligi haqida qoʻrquv bildirdi.
Oygʻi oldida Dario Amodei ilgʻor AI vositalari keltirib chiqaradigan xatarlar hozirgi tezkor rivojlanish surʼatida davom etish uchun haddan tashqari koʻp ekanligini yozib oʻtdi. Ijrochi sanoatning umumiy rivojlanishida oʻrtacha yondashuvni himoya qildi. Bu qarash OpenAI Bosh ijrochi direktori Sam Altman va Elon Musk tomonidan ham qoʻllab-quvvatlandi.