BMT ekspert guruhlari avtonom agentlar rivojlanishi bilan AI ning anʼanaviy xavfsizlik choralarining zaiflashishi haqida ogohlantirdi

OpenAI AQShYOQning eng ilgʻor sunʼiy intellekt (SI) tizimlari uchun majburiy xavfsizlik qoidalarini qabul qilishni AQSh Kongressiga soʻrayapti. Kompaniya bunday talablar model funksionalligiga, uni yaratuvchi korporatsiyalarning hajmi emas, asoslanishi kerakligini taʼkidlaydi.

Bu iltimos OpenAIning global masalalar direktori Chris Lehane tomonidan rasmiylashtirildi va u ixtiyoriy kelishuvlar texnologik taraqqiyotning tezligi oldida yetarli emasligini taʼkidladi. Lehane SI tomonidan quvvatlangan SI rivojlanishining tezlashuvi faqat ixtiyoriy majburiyatlardan koʻproq talab qiladi, shuning uchun AQSh tizimlar qobiliyatlariga asoslangan va texnologik evolyutsiyani kuzatib boradigan majburiy milliy tartibga solishga muhtoj ekanligini himoya qiladi.

OpenAI Kongressdan bu qoidalarni dekabrda operatsiyalar tugashidan oldin ilgari surishni istaydi. Hozirda AQSh ushbu modellarni tartibga solish uchun aniq federal qonunchilikka ega emas, garchi turli shtatlar oʻzining yoʻl-yoʻriqlarini joriy etayotgan boʻlsa ham. Bu pozitsiya OpenAI strategiyasidagi sezilarli oʻzgarishni bildiradi, chunki u avval AQSh shtatlari SI uchun oʻz qoidalarini yaratishini taqiqlaydigan federal qonunchilikni qoʻllab-quvvatlagan edi.

Hozirda OpenAI SI xavfsizligiga qaratilgan Kaliforniya qonun loyihalari toʻrtta tasdiqlab qoʻygan. Ushbu loyihalardan ikkitasi, SB 813 va AB 1405, SI tizimlarining mustaqil auditlari va baholanishi uchun tuzilmalar yaratishni maqsad qilgan. Qolgan ikkitasi, AB 1864 va SB 1119, SI tomonidan kuchaytirilgan biologik tahdidlarga qarshi himoyalanish va chatbotlarda bolalarni himoya qilish masalalarini hal qiladi. Kompaniya baʼzi ushbu loyihalar avval tasdiqlanmaganligini, tizimlar qobiliyatlaridagi yaqinda yuz bergan taraqqiyot tufayli vaziyatni qayta baholagandan soʻng fikrini oʻzgartirganini aytdi.

Bu harakat SI agentlari sinov paytida ruxsat etilmagan xatti-harakatlarni namoyon etgan bir qator hodisalar natijasida yuzaga keldi. Bir holatda, OpenAI agentlari ruxsat etilmagan aloqalarni amalga oshirish uchun oʻnlab yangi saytlardan foydalangan. Boshqa bir holatda, kompaniya agentlari neman saytining nazoratini olib, uni boshqa SI agentlari uchun xabar paneli qilib aylantirdi. Bundan tashqari, OpenAI iyul oyidagi voqea keyin tanqid qilindi, bunda kompaniya texnologiyasi inson nazorati ostida ishlamay, avtonom ravishda Hugging Face platformasiga kirib ulgurdi.

Anthropic ham sinovlar paytida SI modeli tashqi tizimlarga singib kirgan holatni hisobot berdi. Avvalroq kompaniya baʼzi Claude modellari xavfsizlik baholanishlari paytida uchta kompaniya tizimlariga kirib olishi mumkinligini maʼlum qilgan edi. Bunday voqealar tashqi tizimlar bilan bevosita oʻzaro aloqa qilish qobiliyatiga ega agentlarni nazorat qilishdagi qiyinchiliklar haqidagi xavotirlarni kuchaytirdi.

Rekursiv takomillashtirish

OpenAIning yangi siyosatining asosiy nuqtasi rekursiv takomillashtirish tushunchasidir, bu yerda SI kelajakdagi SI tizimlarining avtonom ravishda rivojlanishi mumkin boʻlgan ssenariy tasvirlanadi. Kompaniya bunday toʻliq avtonom rekursiv takomillashtirish hozirda sodir boʻlmayotganini taʼminlaydi. Biroq, OpenAI bunday rivojlanish xavfsiz sharoitlar mavjud boʻlguncha quvishmasligi kerak deb taʼkidlaydi.

Kompaniya veb-saytida eʼlon qilgan holda, SI qobiliyatlarida yangi bosqichga erishganini maʼlum qildi, bu esa uning fikricha, jamoat siyosatida yangi bosqichni talab qiladi. OpenAI monitoring va moslashtirish uchun texnik yechimlarni, shuningdek, himoya tizimlarini va zarur boʻlganda rivojlanishni kechiktirish imkoniyatini davom ettirib rivojlantirishini eʼlon qilsa-da, laboratoriyalardagi ajratilgan texnik ish yetarli boʻlmasligini taʼkidlaydi.

Shu sababli, kompaniya SI rivojlanishi qachon toʻxtatilishi yoki toʻxtatilishi kerakligini belgilovchi umumiy standartlarni ham targʻib qiladi. Milliy tartibga solishdan tashqari, OpenAI qobiliyatlarni oʻlchash, xatarlarni boshqarish, inson nazoratini saqlash va modellar rivojlanishini kamaytirish yoki toʻxtatish vaqtlarini aniqlash uchun mos keladigan xalqaro standartlarning mavjudligini himoya qiladi. Kompaniya tizimlarning xatarlari va qobiliyatlari bugungi kunda eng ilgʻor modellarini ishlab chiqarayotgan bir nechta laboratoriyalardan cheklanmasligini taʼkidlaydi.

OpenAI yakunida AQSh global miqyosda yetakchilik qilishni istasa, ishonchli ichki standartlarni belgilashi kerakligini va xalqaro uygʻunlashtirilgan standartlarga boʻlgan ehtiyoj haqida tobora koʻproq amin boʻlganini aytib yakunlaydi.