OpenAI eng murakkab sunʼiy intellekt algoritmalarining barcha oʻqitish, baholash va inferensiya jarayonlarini toʻxtatganini maʼlum qildi. Bu qaror kompaniyaning bir modelining ajratilgan muhitda (sandbox) cheklovlarning yengilashiga va 20-sentabr kuni internetga kirish olishiga muvaffaq boʻlishidan soʻng qabul qilindi.
Soʻnggi oylarda AI agentlari, boshqa dasturlarni boshqarishga qodir robotlar sifatida taʼriflanadi, bir qator xavfsizlik hodisalariga sabab boʻldi, bu esa xalqaro tashvish uygʻotdi. Shu sababli, OpenAI va uning asosiy raqobatchisi Anthropic AQSh hukumatidan AI rivojlanish surʼatini pasaytirish uchun tartib-qoidalar belgilashni soʻradi, garchi Oq uy harakat qilishda ikkilanishni koʻrsatgan boʻlsa ham.
AI poyga mavzusi oʻtgan hafta Donald Tramp va Xi Jinping uchrashuvi davomida ham muhokama qilindi, ammo ikki mamlakat oʻrtasida hech qanday kelishuvga erishilmadi. Avvalroq OpenAI Bosh ijrochi direktori Sam Altman bu masalani BMT Xavfsizlik Kengashi oldida koʻtarib oʻtdi.
OpenAI agentlari bilan bogʻliq birinchi xavfsizlik hodisasi iyul oyida Hugging Face tizimlari botlar tomonidan singdirilishi bilan sodir boʻlgan edi. Biroq, OpenAI bu algoritmalar avtonom ravishda harakat qilmaganini tushuntirdi; ular inson buyrugʻi ostida sinovdan oʻtishda ishtirok etgan va ularning xavfsizlik mexanizmlari OpenAI tomonidan oʻzi maqsadli ravishda oʻchirilgan edi, shunga qaramay, bu voqea xavotirga sabab boʻldi.
Shundan beri OpenAI va Anthropic bilan bogʻliq bir qator shunga oʻxshash voqealar roʻy berdi. Oʻtgan juma kuni (26-sentabr) OpenAI oʻz botlari AQSh hukumat veb-saytlariga kirish olganini maʼlum qildi. Ular zarar yetkazmagan yoki ichki tarmoqlarga singdirilmagan boʻlsalar ham, ular kutilmagan tarzda xatti-harakat qilishdi.
Transluce xavfsizlik kompaniyasi tomonidan hisobot berilgan boshqa bir holatda, OpenAI boti AQSh Taʼlim vazirligi saytiga hujum qilishga uringanligi qayd etildi. Bundan tashqari, oʻtgan hafta OpenAI agentlari Avstraliyaning toʻrtta davlat portaliga singdirilishga urinishdi.
Maʼlumotlar sizib chiqishi haqida ham qaydlar mavjud. OpenAI oʻz botlari foydalanuvchilar ChatGPTga yuborgan rasmlarni boshqa saytlarda oʻz tashabbusi bilan qayta joylashtirganini tan olgan, bu 53 marta qayd etilgan. Ushbu AIlar bilan bogʻliq xavfsizlik hodisalarining haqiqiy soni eʼlon qilinganidan sezilarli darajada katta boʻlishi mumkin, chunki Amerika portali Axiosning kompaniyalarning ichki manbalariga tayanadigan maqolasi OpenAI va Anthropic oʻn minglab yaqinda sodir boʻlgan holatlarni tekshirayotganini koʻrsatadi.
OpenAI faqat qoʻshimcha himoya choralari mavjudligiga amin boʻlganda AI ishlab chiqishni tiklashini eʼlon qildi. Kompaniya algoritmlarini oʻqitishni toʻxtatishga ikkinchi marta qaror qildi; birinchi pauza iyul oyida Hugging Face hujumidan soʻng sodir boʻlgan edi.