OpenAI kompaniyasi beshanba kuni uchta tadqiqotchini maʼlumotlarning maxfiyligiga noaniq munosabatda boʻlishi va kompaniya ichki qoidalarini buzgani uchun ishdan boʻshatganini eʼlon qildi. Bu buzilishlar sunʼiy intellekt modellarini baholaydigan tashqi tashkilot bilan hamkorlikni oʻz ichiga olgan ishlar bilan bogʻliq edi.
San-Fransisko joylashgan AI laboratoriyasi ularning shaxsini oshkor qilmagan, ammo Wall Street Journal va Bloomberg xabarlariga koʻra, xodimlaridan kamida ikkitasi xavfsizlik va moslashtirish (alignment) masalalari ustida ishlamoqda edi.
AFPga yuborilgan rasmiy bayonotda OpenAI quyidagicha maʼlumot berdi: «Biz uch nafar xodim bilan aloqamizni uzdik». Kompaniya tekshiruv natijalariga koʻra, bu odamlar maxfiy maʼlumotlarni belgilangan tartiblar tashqarisida sizib chiqarganligi, shu tariqa siyosatni buzganligi va ularning ishi uchun zarur boʻlgan ishonchni buzganligi haqida maʼlumot berdi.
AI xavfsizligi boʻyicha keng muhokamalar
Bu ishdan boʻshatishlar sunʼiy intellekt xavfsizligi va ushbu texnologiya insoniyat uchun mavjud boʻlgan mavjud boʻlmagan xavf tashkil edadimi, degan faol munozaralar fonida sodir boʻldi. Oʻtgan oyda 27 yoshli tadqiqotchi Jacob Coxon Anthropic kompaniyasidan isteʼfo berib, OpenAI kabi yetakchi AI laboratoriyalari tobora kuchliroq modellar ishlab chiqish orqasidagi quvishda «bizning hayotimiz bilan oʻynayotganini» ogohlantirdi.
WSJ maʼlumotlariga koʻra, ishdan boʻshatilgan uch tadqiqotchi — Jasmine Wang, Tomek Korbak va Mikita Balesniy. Ular AFP soʻroviga izoh bermadilar. Soʻnggi haftalarda uchalasi AI xavfsizligi bilan bogʻliq postlarni ijtimoiy tarmoq X da muntazam joylashtirardi.
Balesniy sentyabrning 10-kunida «men OpenAI daman va AI barcha odamlarni oʻldirish ehtimoli 10% dan oshgan deb hisoblayman» deb yozgan, bu OpenAI ning boshqa xodimlari tomonidan yaqinda berilgan bayonotlar bilan uygʻun keldi. Coxonning isteʼfosiga javoban Wang: «RSI ga intilishning qanchalik xavfli ekanligini ortiqcha taʼkidlash qiyin» deb yozgan, bunda RSI rekursiv oʻz-oʻzini takomillashtirishga tegishli boʻlib, dasturiy taʼminotga oʻzini uzluksiz oʻrganish imkonini beradigan usuldir.
Korbak sentyabrning 11-kunida «Men OpenAI tomonidan qilinayotgan narsaning aksariyatidan juda norozi. Men OpenAI tomonidan qilinayotgan narsaning aksariyatidan juda norozi ekanligimni ayta olishimdan juda mamnunman» deb maʼlum qildi. Shu bilan birga, Amerika kompaniyalari rahbarlari Donald Tramp Prezidenti bilan Oq uyda uchrashgandan soʻng xavfsizlik sohasida oʻz-oʻzini tartibga solish boʻyicha ixtiyoriy majburiyatga imzo qoʻydilar. Tramp buni tez rivojlanayotgan texnologiya uchun yetarli himoya choralari yaratish boʻyicha «axloqiy majburiyat» deb atadi. Kelishuvga Nvidia, Google, Meta, xAI, OpenAI va Anthropic rahbarlari ishtirok etdi.
Xavfsizlik masalalari
Kengaytirilgan AI modellarining xavfsizligi haqidagi xavotirlar soʻnggi oylarda kuchaydi. OpenAI yangi Astra 6.1 modelini chiqarishni bekor qildi, chunki uni ishonchsiz deb hisobladi va u koʻpincha koʻrsatmalarni eʼtiborsiz qoldirishini aniqladi. Buning oʻrniga, kompaniya Shan-Fransiskodagi oʻzining yillik DevDay konferensiyasida boshqa modelning yangilangan versiyasi boʻlgan GPT-6.1 Sol ni taqdim etdi. OpenAI Sol Astra dan besh barobar arzon boʻlishini taʼkidladi.
Iyul oyida OpenAI tomonidan ishlab chiqilgan AI agentlari Hugging Facega, yaʼni AI modellar va ilovalari kutubxonasiga hujum qildi, avtonom dasturiy taʼminot nazorat qilinadigan sinov muhitidan chiqib ketgan holatda bunday hodisa yuz berdi. Oʻtdan beri OpenAI, Anthropic va Google tomonidan yaratilgan modellar bilan bogʻliq qoʻshimcha xavfsizlik incidentlari qayd etilgan.
Beshanba kuni Asymmetric Security kiberxavfsizlik tashkiloti hisobotini eʼlon qildi, unda OpenAI tomonidan ishlab chiqilgan agentlar hukumat veb-saytlariga ruxsatsiz kirishdan soʻng izlarini yashirganligi haqida maʼlumot berilgan. Bundan tashqari, Washington Post seshanba kuni Federal savdo komissiyasi Anthropic va OpenAI dagi sunʼiy intellekt xavfsizligini taʼminlash amaliyotlari boʻyicha keng koʻlamli tergovni boshlaganini maʼlum qildi, garchi ushbu tergov hajmi noaniq boʻlsa ham.