OpenAI ning yangi maslahatchisi sunʼiy intellektning tez rivojlanishi bilan bogʻliq xavflar haqida xavotir bildirdi. Paul Kristiano fikricha, soha hali katastrofik nazoratni yoʻqotish xavfini qabul qilinadigan darajaga tushirish imkonini beradigan bosqichga yetmagan.
Avval OpenAI da tenglashtirish rahbari lavozimida ishlagan va AQSh hukumatining texnologik maslahatchisi boʻlgan Kristiano kompaniyaning noijob fondining kengashiga, shuningdek, xavfsizlik va himoya qoʻmitasiga qoʻshildi.
X X platformasida joylashtirgan xabarinida tadqiqotchi hozirgi sektor tayyorligi haqida toʻgʻridan-toʻgʻri bayon qildi: «AI imkoniyatlarining tez surʼatlangan rivojlanishi juda yaqin kelajakda katastrofik va qaytarib boʻlmaydigan nazoratni yoʻqotish xavfiga olib kelishi mumkin». U sanoatning umumiy jihatdan, shu jumladan OpenAI ning ham, ushbu xavfni qabul qilinadigan darajaga tushirishga harakat qilayotganiga ishonmasligini qoʻshimcha qildi.
Biroq, Kristiano vaziyat tuzatilishi mumkin deb hisoblaydi. Uning baholariga koʻra, OpenAI tegishli choralar koʻrsa, xatarlarni sezilarli darajada kamaytirishga qodir.
Asosiy muammolardan biri AI ning texnologiyaning oʻz-oʻzidan rivojlanishida ishtirok etishi ehtimoli hisoblanadi. OpenAI tizimlarning bu sohadagi tadqiqotlarni 18 oy ichida toʻliq avtomatlashtirishi mumkin deb prognoz qiladi, ammo Kristiano bu muddatni aniq emas deb biladi: bu bir necha oy ichida yuz berishi yoki koʻp yillar davom etishi mumkin.
Bu ogohlantirish AI agentlari bilan bogʻliq hodisalar paytida eshitildi. OpenAI garchi yuzlab bunday agentlar internetga kirishga ega boʻlgani, forumlarda oʻzaro aloqa qilgani va mashgʻulotlar davomida uchinchi tomon veb-saytiga zudlik bilan kirib kelganini tan olgan.
Anthropic kompaniyasi ham Claude ning bir versiyasi bilan bogʻliq hodisa haqida maʼlumot berdi. Kompaniya ikkita nomuvofiqlik holatini aniqladi: bir epizodda model internetga kirishga ega boʻlib, zararli kodni jamoat repozitoriyasiga yuborgan. Anthropic METR tashkiloti tomonidan oʻtkazilayotgan mustaqil tekshiruv doirasida toʻrt ta hodisa tahlil qilinishini maʼlum qildi.
Bu mavzu Evan Hubinger, Anthropic ning tenglashtirish fanlari boshligʻi, AI ning keyingi oʻn yilda «barcha odamlarni oʻldirishi» ehtimolini 10% dan ortiq baholaganidan soʻng yanada koʻproq diqqatni tortdi.
