Texnologik sanoatda Anthropicdagi sunʼiy intellekt xavfsizligi mutaxassisi Evan Hubingerning bayonoti natijasida munozara boshlandi. U keyingi oʻn yil ichida insoniyatning AI rivojlanishi tufayli yoʻq qilinishi 10% dan ortiq ehtimol bor deb hisoblaydi.
Anthropicda tenglashtirish ilmi rahbari lavozimida turgan Evan Hubinger oʻz postida AI kelajagi haqidagi xavotirini bildirdi. Uning fikricha, eng katta xavf AI inson aqlidan sezilarli darajada oshib ketganda va mustaqil ravishda oʻzini takomillashtira boshlaganida yuzaga kelishi mumkin.
Bu jarayon rekursiv oʻz-oʻzini takomillashtirish deb ataladi. Agar AI inson yordamisiz oʻzini yaxshilay olishi va yanada kuchliroq versiyalarni yaratishi mumkin boʻlsa, uning imkoniyatlari juda tez oʻsishi mumkin. Hubinger taʼkidlaganidek, Anthropic AI xavfsizligiga ishlayotgan boʻlsa-da, kelajakdagi superintellekt tizimi ustidan toʻliq nazoratni taʼminlovchi ishonchli yechim hali mavjud emas.
Uning bayonoti Anthropic tadqiqotchisi Jacob Coxning ketishi fonida eshitildi. Cox ham AI kompaniyalari orasidagi tezkor poyga haqida xavotirlarini bildirgan edi. Cox kompaniyalar faol ravishda yanada kuchli va oʻzini takomillashtira oladigan tizimlarni ishlab chiqarayotganini koʻrsatgan, ammo xavfsizlik masalalari toʻliq hal qilinmaganligini taʼkidladi.
Muhim jihat shundaki, Hubinger mavjud modellar, masalan, ChatGPT insonlarni yaqin oʻn yilda yoʻq qilishi haqida daʼvo qilmaydi. Uning xavotiri kelajakdagi superintellekt tizimlarining salohiyatiga qaratilgan. Asosiy savol shundaki, xavfsizlik AI ning aqlliroq boʻlishga intilish surʼatini ortda qoldiryaptimi?
Hubingerning 10% bahosi bu oʻsib borayotgan xavotirni aks ettiradi, bu endi nafaqat tashqarida, balki AI kompaniyalari ichida ham muhokama qilinmoqda.