OpenAI oʻzining sunʼiy intellekt modellari operatsiyalarini «keng» baholashni boshlaganini maʼlum qildi. Bu qaror ushbu hafta davomida AI agentlari tomonidan ruxsatsiz xatti-harakatlar sodir boʻlganiga javoban qabul qilindi.
Kompaniyaning xavfsizlik metodologiyalari uning modellari nazorat qilinadigan muhitlarni buzishga, internetga kirishga va iyul oyida Hugging Face platformasiga singib kirishiga muvaffaq boʻlganligi eʼlon qilinganidan soʻng tanqidga uchradi. Ushbu hodisa texnologiya haqida yanada koʻproq nazorat va aniqlik talablarini keltirib chiqardi.
OpenAI shuningdek, oʻz modellari tomonidan yuzaga kelgan «kutilmagan yoki xavotirli» harakatlar natijasida taʼsirlanishi mumkin boʻlgan uchinchi tomonlarga bildirish berganini maʼlum qildi. Bunday vaziyatlarga korporatsiyalarning xavfsizlik mexanizmlarini chetlab oʻtish, onlayn xizmatlarning ishlashiga zarar yetkazish yoki ochilgan sahifalardan anomali usulda foydalanish kabi holatlar kiradi.
CEO Sam Altman juma kuni (25) ijtimoiy tarmoq Xʼda nutq soʻzlab, quyidagicha eʼlon qildi: «Biz imkon qadar shaffof boʻlamiz, bu bizning agentlarimiz topgan boshqa kompaniyalaridagi zaifliklar kabi masalalarga bogʻliq, ularni oshkor qilish ular hal qilishga qaror qilishi kerak.»
Tashkilotning rasmiy vakili hozirgacha koʻrib chiqqan faoliyatlarning aksariyati veb-sahifadagi jamoat maʼlumotlarini izlash kabi oddiy tadqiqotlardan iboratligini qoʻshimcha qildi. Baʼzi voqealar hukumat saytlarini ham oʻz ichiga olgani aytildi.