OpenAI iyul oxirida sunʼiy intellekt modellari bilan bogʻliq jiddiy xavflarni tahlil qilish va ularni kamaytirish usullarini belgilash vazifasiga ega boʻlgan tayyorgarlik jamoasini toʻxtatdi. Ushbu qayta tuzilish bilan avval bu guruhda markazlashtirilgan vazifalar biologiya va kiberxavfsizlik kabi sohalarga aniq eʼtibor qaratgan allaqachon mavjud boʻlgan departamentlar orasida qayta taqsimlandi.
Bu oʻzgarish kompaniyaning xavfsizlik tuzilmalarida doimiy sozlash davriga toʻgʻri keladi. Bu islohot OpenAI katta miqyosdagi aksiyadorlik jamoatchilik taklifini (IPO) tayyorlanayotgan paytda sodir boʻlmoqda. Ushbu jamoaning yopilishi xavfsizlikka bogʻliq xodimlar ketishi va ilgʻor tizimlarning xavflariga tayyorgarlik koʻrsatuvchi birliklarning boshqa tarqatib yuborilishi bilan birga sodir boʻldi.
Tayyorgarlik jamoasining asosiy funksiyasi OpenAI tomonidan yaratilgan modellar katta miqyosdagi tahdidlar keltirib chiqarishi mumkinligini tekshirish edi. Ish shuningdek, tizim boshqa subʼektlarga zararli taʼsir koʻrsatishi mumkin boʻlgan ssenariylarni qamrab olgan holda, bunday xavflarni nazorat qilish yoki kamaytirish strategiyalarini ishlab chiqishni oʻz ichiga olgan.
Jamoa yopilgandan soʻng, kompaniya bu masʼuliyatlarni tahlalanayotgan tahdid turi boʻyicha taqsimlashga qaror qildi. Masalan, kiberxavfsizlik va biologiya bilan bogʻliq masalalar korporativ tuzilmaga allaqachon kirib kelgan jamoalar tomonidan hal qilinmoqda.
Anthropicdan fevral oyida OpenAIga qoʻshilgan Dylan Scandinaro ham oʻz vazifalarini sozlab oldi. U tayyorgarlik tuzilmasini boshqarishni tashlab, oʻz ishini rekursiv ravishda yaxshilanish qobiliyatiga ega sunʼiy intellektning taʼsirlariga qaratdi.
Bu qaror OpenAI xavfsizlik sohalarining tashkiliy tuzilishida yana bir oʻzgarishni bildiradi. Soʻnggi yillarda kompaniya AGI va super-alignment uchun tayyorgarlik jamoalari kabi ilgʻor tizimlarga tayyorgarlik bilan bogʻliq boshqa tuzilmalarni ham buzdi yoki yopdi.
Bu harakat boshqa xodimlar almashinuvi bilan birga sodir boʻlmoqda. Yaqinda axloq sohasi masʼuliyati boʻlgan Chloé Bakalar, Chief Futurist lavozimini egallagan Josh Achiam va xavfsizlik rahbari Johannes Heidecke kompaniyadan ketishdi.
Bu oʻzgarishlar OpenAIning sobiq aʼzolari tomonidan tanqidga sabab boʻldi. 2024-yilda kompaniyadan ketgan Jan Leike Financial Times gazetasiga kompaniya yangi mahsulotlarni izlash yoʻlida xavfsizlikni eʼtiborsiz qoldirayotganini maʼlum qildi. Ushbu sobiq xodimning fikri xavfsizlik va tayyorgarlik masalalari bilan shugʻullanuvchi jamoalarga taʼsir qilgan bir qator oʻzgarishlar kontekstida keldi.
Shunday qilib, jamoaning buzilishi barcha xavfga oid faoliyatlar tashlab yuborilgan degani emas. Eʼlon qilingan hisobotga koʻra, bu vazifalarning bir qismi saqlanib qolmoqda, ammo u endi muayyan guruhda jamlangan emas, balki kompaniyaning turli tuzilmalari boʻylab tarqalgan.
Qayta tashkil etish OpenAI uchun muhim bosqichda sodir boʻlmoqda, chunki u potentsial kapital ochishga qarab borayotgan. Moliyaviy holat va xavfsizlik tuzilmalaridagi ketma-ket oʻzgarishlar kompaniya sunʼiy intellektning oʻziga xos xavflarini boshqarishga beradigan ustuvorlik haqidagi munozarani taʼsirga solmoqda.