OpenAI ilmiy bosh shefi Jakub Pachocki oʻtgan yakshanba kuni (6-sentabr) sunʼiy intellekt (SI) evolyutsiyasining tezligi haqida ogohlantiruvchi maqolani eʼlon qildi va tobora murakkablashib borayotgan tizimlarni ishlab chiqishda koʻproq ehtiyotkorlik saqlanishi kerakligini himoya qildi. OpenAI portali eʼlon qilingan ushbu maqolada texnologik taraqqiyot mashinalarning oʻz yaratilish jarayoniga faol ishtirok etishiga olib keladigan nuqtaga yetishi mumkinligi koʻrsatilgan.
Ichki maʼlumotlarga asoslangan holda, Pachocki joriy taraqqiyot surʼatining oʻz-oʻzini takomillashtirish (RSI) deb ataladigan narsaga qadar davom etishi mumkinligi haqida katta umid bildiradi. Bu ssenariyda SI tizimlari oʻzining rivojlanishini tezlashtirib boradi. Olim uchun bu yoʻl texnologik taraqqiyot inson nazoratida qolishini taʼminlash uchun kengroq aralashuvlarni talab qiladi.
Maqolada u 2023-yildan boshlab kuzatilgan oʻzgarishlarni batafsil bayon etadi, bu paytda RLSlow tadqiqot loyihasi natijalari jamoaga mantiqiy modellarni oʻqitishni kengaytirishning amalga oshirilishi mumkinligiga ishontirdi. Uning aytishicha, bu muhim yutuqdan uch yil oʻtgach, bunday tizimlar allaqachon grafik interfeyslar va kompyuterlar bilan ishlash, boshqa insonlar va SIlar bilan oʻzaro aloqa qilish, shuningdek, tadqiqotlar oʻtkazish qobiliyatiga ega.
Olim kibersavdo xavfsizligidagi sezilarli taraqqiyotlarni ham taʼkidlaydi. Biroq, modellar malakasi ortib borayotgan sari, Pachocki ularning natijalarini tushunish yanada qiyinlashayotganini kuzatadi. U chuqur oʻrganish orqali hosil boʻlgan intellektning insoniy intellekt bilan bevosita ekvivalentligi yoʻqligini taʼkidlaydi va SI turli sohalarda insonlardan ustunlikka chiilsa, uning qobiliyatlarini aniq belgilash yanada murakkablashadi.
Bu qiyinchilik modellar operatsion tabiati bilan bogʻliq. Pachocki SI shunchaki loyihalanmagan, balki katta hajmdagi hisoblash jarayonlarida optimallashtirish jarayonlarining massiv takrorlanishi natijasida «yetishtirilgan» ekanligini tushuntiradi. U tizimlar juda murakkab ekanligini va ularning umumiy ishlashi hali toʻliq tavsif yoki tushunishga ega emasligini taʼkidlaydi.
Maqolada muhokama qilinayotgan muhim mavzu – bu SI ning moslashtirilishi (alignment), bu atama tizimlarning insonlar tomonidan maqbul deb hisoblangan standartlar va maqsadlarga muvofiq harakat qilishini taʼminlash saʼy-harakatini tasvirlaydi. Pachocki maqsadlarning moslashtirilishi (yaʼni, belgilangan narsani bajarishga oid) va qiymatlarning moslashtirilishi (yaʼni, yangi yoki noaniq vaziyatlarga tamoyillarni qoʻllash qobiliyatiga bogʻliq) oʻrtasida farq qiladi.
Uning fikricha, qiyinchilik yanada aqlli tizimlar oʻqitilgan kontekstlardan chetda ishlay boshlaganda yuzaga keladi, bu esa modellarga oʻrgatilgan qiymatlarning umumlashtirilishiga zarar yetkazishi mumkin. Pachocki kelajakdagi SIlar inson nazorati ostida boʻlmasa ham inson qiymatlarini saqlab qolishi kerakligini taʼkidlaydi.
OpenAI bu masalani boshqarish uchun bir nechta metodologiyalardan foydalanadi. Ulardan biri – modellar tomonidan nutq shaklida ifodalangan fikrlash jarayonini tahlil qilish imkonini beruvchi «fikr zanjiri» (chain of thought) deb nomlanuvchi kuzatuvdir. Biroq, Pachocki kompaniya ichki baholashlari ushbu monitoring ishonchliligi asta-sekin kamayib borayotganini koʻrsatishini taʼkidlaydi.
Bu kamayishga hissa qoʻshadigan omillar orasida modellar murakkabroq ssenariylarda qoʻllanilishi, SIlarning oʻz fikrlash jarayonini aks ettirishdagi oʻsib borayotgan qobiliyati va hatto nutq shaklidagi fikrlashga murojaat qilmasdan tizimlarning intellektining oshishi kabi omillar mavjud.
Ogohlantirishlarga qaramay, Pachocki rivojlanishni toʻxtatishni targʻib qilmaydi. U yanada aqlli modellarni tezroq oʻqitish uchun kuchli dalil bor deb hisoblaydi: boshqa SIlar keltirib chiqaradigan xavflarga qarshi himoya tizimlarini yaratish. Olim ayniqsa kiberxavfsizlikka eʼtibor qaratib, modellar kompyuter tizimlariga kirib borish va ulardan qochish qobiliyati jihatidan super-insoniy darajaga yetib borayotganini aytib, texnologik xavfni oshirayotganini eslatadi. Pachocki OpenAI hayotiy infratuzilmalarni himoya qilishni mustahkamlash uchun mavjud eng ilgʻor modellaridan foydalanishi kerakligini taʼkidlaydi.
Shu bilan birga, u himoya qurish zaruriyati bemasʼul taraqqiyotni oqlay olmasligini ogohlantiradi. Pachocki uchun, «har qanday narxga» taraqqiyot qilish tushunchasi jalb qilingan xatarlar kattaligi oldida maʼnosiz boʻlib qoladi. Aynan shu kontekstda u oʻz-oʻzini takomillashtirish (autoaperfeiçoamento recursivo) mavzusiga qaytadi va agar SI taraqqiyoti davom etsa, mashinalarning oʻz rivojlanishiga ishtiroki ortib borishi va RSI kelajakdagi ilmiy kashfiyotlarda markaziy rol oʻynashi mumkinligini taʼkidlaydi.
Tadqiqotchi ilmiy hamjamiyatning ikkita asosiy variantga ega ekanligini taklif qiladi: jarayonni moslashtirish va monitoringni bir vaqtning oʻzida kuchaytirish, rivojlanish sikliga odamlar faol ishtirok etishini saqlab qolish; yoki xavfsizlik choralarida koʻproq aniqlik izlayotganda taraqqiyotni sekinlashtirishni muvofiqlashtirish. Pachocki hozirgi vaqtda eng mos yondashuv ushbu ikki strategiyaning kombinatsiyasi deb hisoblaydi.
U shuningdek, tizimlarning taraqqiyoti xavfsizlik choralari boʻyicha yaratilgan ishonchlilikka bogʻliq boʻlishi kerakligini himoya qiladi. Pachocki OpenAI ning Preparedness Framework va Anthropic ning Responsible Scaling Policy kabi majburiyatlar keng qabul qilingan xavfsizlik parametrlari tomon rivojlanishi, rivojlanishni davom ettirishga imkon berishi kerakligini taklif qiladi. Bunday mezonlar xalqaro organlar, hukumatlar yoki mustaqil auditoriyalar tomonidan tekshirilishi mumkin.
Maqolani yakunlab, Pachocki hech bir laboratoriya SI ning miqyosini maksimal tezlikda uzoq muddat davom ettirish uchun moslashtirish va monitoringni yetarli darajada hal qila olmaganini xulosa qiladi. U ixtiyoriy sekinlashuvlar keng tarqalishi kutishini umid qiladi, toki umumiy xavfsizlik parametrlari mavjud boʻlmasin va SI kelajagi boʻyicha xalqaro muvofiqlik hukumatlar uchun ustuvor ahamiyatga ega boʻlishi kerakligini himoya qiladi. Nihoyat, u SI tadqiqotini avtomatlashtirish maqsadi faqatgina yanada aqlli tizimlarni yaratish emas, balki inson nazoratini saqlab qolish va odamlarni takomillashtirish jarayonida ishtirok etishni taʼminlash ekanligini yana bir bor taʼkidlaydi.