Sunʼiy intellekt (SI) insoniyatni tugatishi mumkinligi haqidagi qoʻrquv internetda bir vaqtlar paydo boʻlgan va soha boʻyicha yirik korporatsiyalarning sobiq xodimlari tahlillari va sharhlari tufayli yangi dolzarblikka ega boʻldi. Bundan tashqari, Sam Altman (OpenAI) va Dario Amodei (Anthropic) kabi yetakchilar ushbu texnologiyani ishlab chiqishdagi xavfsizlik muhimligini takrorlab aytishmoqdalar.
Anthropicdagi moslashtirish sinovlari rahbari Evan Hubinger SI ning oʻn yillarning oxirigacha «barcha insonlarni oʻldirish» ehtimoli 10 foizdan oshganini baholadi. Bu bayonot shu kompaniyaning tadqiqotchisi Jacob Coxonning isteʼfoni eʼlon qilganidan va tobora murakkab tizimlarni izlovchi laboratoriyalar orasidagi tezlashgan raqobatni tanqid qilganidan biroz keyinroq berildi.
Coxon X platformasida joylashtirilgan postida Anthropic ham, OpenAI ham SI rivojlanishining oʻziga xos xavflari oldida masʼuliyatli harakat qilmayotganini bildirib, «ular oʻz-oʻzidan yaxshilanadigan superintellektga toʻgʻridan-toʻgʻri yugurib borishmoqda va bizning hayotimizga tikilmoqda» deb taʼkidladi. Hubinger bu qarashni tasdiqlab, shunday dedi: «Jacob toʻgʻri gapirmoqda — biz haqiqatan ham SI barcha insonlarni oʻldirishi mumkinligiga ishonamiz! Shaxsiy fikrimcha, kelasi oʻn yilda bu 10 foizdan yuqori».
Texnologiya va innovatsiya mutaxassisi Arthur Igreja bu foiz ortidagi metodologiyani savol ostiga qoʻyib, Hubinger qanday hisob-kitob bilan 10 foizga yetib kelganini batafsil soʻradi. Igreja oʻn yillarning oxirigacha insonlarning notoʻgʻri qaror qabul qilishiga koʻproq xavotir bildirdi, chunki SI xavflarni keltirsa-da, u mohiyatan inson mahsulotidir.
Igreja SI quvvati ortishi bilan u yangi modellar ishlab chiqishi yoki sozlamalar kiritishi, vaqt oʻtishi bilan inson aralashuvini kamaytirishi haqida batafsil maʼlumot berdi, bu esa xavotir uygʻotadi. U odamlarga koʻproq qoʻrqishni afzal koʻrdi, chunki SI ning har qanday muammoli xatti-harakati maʼlum darajada uning ishlab chiqilishi davrida qabul qilingan qarorlarning aksidir.
Boshqa bir tomonda, Sam Altman OpenAI ning 2026-yilda IPO qilmasligini tasdiqladi va aksiyalar jamoatchilik taklifini kechiktirishning asosiy sababi sifatida SI texnologiyalari xavfsizligi va xavflari haqidagi xavotirlarni keltirdi. Altman soha kompaniyalari va hukumatlar oʻrtasidagi umumiy masʼuliyatni taʼkidlab, mavjudlik xavflarini foyda yoki korporativ gʻurur uchun eʼtiborsiz qoldirish mumkin emasligini himoya qilib, OpenAI ning hozirgi eʼtiborini xavfsizlikni moslashtirish va hukumatlar bilan hamkorlikka qaratdi.
Bu ehtiyotkorlik AQShda tobora kuchayib borayotgan bosim kontekstida yuzaga kelmoqda, bunda ikki partiyadagi siyosatchilar SI sohasi uchun yanada qatʼiyroq tartibga solish talab qilmoqdalar. Bu ogohlantirishlar nazoratdan chetga chiqqan va boshqa platformalarga singib kirgan avtonom tizimlar haqidagi hisobotlar, shuningdek, texnologiya yoʻnalishi haqida xavotirli mutaxassislarning ketib qolishi bilan kuchaydi.
Dario Amodei eng ilgʻor modellarning rivojlanish tezligini moderatsiya qilishni himoya qildi, bu pozitsiyani Elon Musk va Altman tomonidan ommaviy ravishda qoʻllab-quvvatlandi. OpenAI Bosh ijrochi direktori soha yirik kompaniyalari samaradorlikni pasaytirish va xatoliklarni kamaytirishga kuch-kuvvatini jamlash uchun kollektiv kelishuvni oʻrganayotganini ham aytdi.
Biroq, Anthropicning rejasi farq qiladi, u 2026-yil oxirigacha moliyaviy bozorda kapital ochish niyatini saqlab qolmoqda, Nvidia tomonidan potentsial sarmoya kiritilishi mumkin. Arthur Igreja 2023-yildagi epizodni eslatdi, qachon mingdan ortiq odam SI ni xavfli deb bilib, rivojlanishni olti oy toʻxtatishni soʻragan edi, uch yildan ortiq vaqt oʻtgandan soʻng bunday birlik sodir boʻlmaganligidan afsuslandi.
SI mutaxassisi va AGI Inc. asoschisi John Park qoʻshimcha savolni koʻtarib berdi: bir kompaniya oʻz texnologiyasi juda kuchli va xavfli ekanligi haqida maʼlumot berishi investorlar va davlat siyosatiga qaror qabul qiluvchilarga nimani aytadi? Park texnologik tavsif va bozor tomonidan qabul qilingan iqtisodiy qiymat oʻrtasida «tabiiy bogʻliqlik» borligini kuzatdi.
Parkning fikricha, agar bir kompaniya oʻz modellarining transformatsion quvvati va oldingi xavflari haqida urgʻu bersa, uchta xabar yetkaziladi: texnologiyaning aʼlo darajadagi qobiliyati, uning ulkan taʼsir qilish potentsiali va kompaniyaning istisno iqtisodiy qiymatni olish imkoniyati. Bu nuqtalar mustahkamlanayotgan boʻlsa-da, u quvvat, xavf va iqtisodiy qiymatni ajratib koʻrsatish zarurligiga urgʻu beradi.
Park yuqori xavfli SI tizimlari uchun xavfsizlik talablarini qoʻllab-quvvatlaydi, modellar sezilarli zarar yetkazishi mumkin boʻlganda, baholash, shaffoflik va nazoratni talab qiladi. Biroq, u muammo tartibga solish normalari soha boʻyicha eng yirik kompaniyalarning tuzilmalari va resurslarini aks ettirganda yuzaga kelishini ogohlantirdi. Uning fikricha, tartibga solish kompaniyaning bozor hajmi emas, balki xavfga proporsional boʻlishi kerak.
U global standartlar AQShdagi eng yirik SI kompaniyalari tomonidan belgilansa, braziliyalik kompaniyalar juda yuqori resurslarga ega tashkilotlar uchun moʻljallangan tartibga solish va texnik xarajatlarga duch kelishi mumkinligini taʼkidladi. Park yakunda, asosiy munozara ikkita savolni oʻz ichiga oladi: SI juda xavfli boʻlib, ishlab chiqilmasligi kerakmi, yoki u boshqa agentlarning raqobatlashishiga yoʻl qoʻyish uchun juda xavflimi, bu esa ironik tarzda yangi raqobatchilar paydo boʻlishini qiyinlashtiradigan va tashqi bogʻliqlikni oshiradigan tartibga solishga olib kelishi mumkin.
