Sunʼiy intellekt (SI) butun insoniyatni yoʻq qilishi mumkinligi borligiga oid 10% dan ortiq ehtimol mavjudligi haqidagi daʼvo Anthropicdagi joylashuv boshligʻi Evan Hubinger tomonidan sentyabrning 8-ida bayon qilingan va tez orada ijtimoiy tarmoqlarda diqqat tortdi. Biroq, nevroshodiy ilmiy mutaxassis, futurist va Unifesp professori Álvaro Machado Dias bu gʻoyani shunchaki hikoya deb baholadi va Olhar Digitalga bergan intervyusida «bu gapda eng kichik ham maʼqullik yoʻq» deb taʼkidladi.
Hubingerning nashri OpenAI va Anthropicda ishlagan, SI modellarining oldingi mashgʻulotiga eʼtibor qaratgan Jacob Coxonning avvalgi tweetiga havolaga ega edi. Coxon Anthropicdan ketganidan soʻng ogohlantirish berib, ikkala kompaniya «oʻzini oʻzi takomillashtira oladigan va bizning hayotimizga xavf soladigan superintellekt tomon yugurayotganini» koʻrsatgan edi.
Hubinger oʻz eʼtiqodini mustahkamladi va shunday dedi: «Biz SI odamlarni oʻldirishi mumkinligiga toʻliq jiddiy bilan ishonamiz! Shaxsan men keyingi oʻn yilda ehtimollik 10% dan yuqori deb oʻylayman». U qoʻshimcha qilib, Anthropic eng yaxshi narsani qilayotganiga ishonishiga qaramay, hali ham superintellektni moslashtirish muammosini hal qilish uchun aniq reja mavjud emasligini bildirdi.
Texnologiya va innovatsiyalar boʻyicha mutaxassis Arthur Igreja metodologiyaga nisbatan shubha bildirdi va Hubinger qanday qilib 10 foizga yetib kelganini soʻrab, hisoblash asoslarini soʻradi. Igreja qoʻshimcha qilib, xatarlar jadvalida u oʻn yillik davr oxirigacha odamlar tomonidan qabul qilinadigan notoʻgʻri qarorlardan koʻproq xavotirda ekanligini aytdi.
Álvaro Machado Dias SI ning isyonlanishi, maqsadlilik olishi yoki odamlarga hujum qilishi gʻoyasi shunchaki hikoya ekanligini qayta taʼkidladi. U tushuntirib berishicha, bunga insonlar va boshqa turlardagi mavjud boʻlgan maqsadlilik turi kerak boʻladi, bu esa mashinalarda kuzatilmaydi. Bundan tashqari, u bunday ssenariy uchun koʻrinadigan ijro qobiliyatining yoʻqligini koʻrsatdi.
Nevroshodiy ilmiy mutaxassis SI ning biologik qurol sintezlash laboratoriyalari kabi juda sezgir resurslarga kirish huquqiga ega boʻlishi kerakligini taʼkidladi, bu esa yuqori darajada tartibga solingan hududlardir. Biroq, u SI ning raqamli interfeyslar orqali katta zarar yetkazishi mumkinligini tan olib, kompyuter viruslarini polimorfik tarzda yaratish yoki kasalxonalarining sezgir maʼlumotlar bazalarini oʻgʻirlash uchun moʻljallangan SI misolini keltirdi.
Machado Dias muhim farqni ajratib koʻrsatdi: «qanday» sohasi (amaliy haqiqat)da nima amalga oshirilishi mumkinligini, uni tahlil qilish natijasida shunchaki maʼno bermaydigan narsadan ajratish kerak. Shu bilan birga, Anthropic Bosh ijrochi direktori Dario Amodei sentyabrning 12-ida SI rivojlanishining tez surʼati, «rekursiv oʻz-oʻzini takomillashtirish» tufayli, sektor kompaniyalari oʻrtasida muvofiqlashtirilgan sekinlashishni talab qilishini tan olgan maqola eʼlon qildi.
Bu taklif Sam Altman (OpenAI), Elon Musk (xAI) va Demis Hassabis (Google DeepMindning sobiq Bosh ijrochi direktori) tomonidan qoʻllab-quvvatlandi. Hassabis Amodeining inshosini qoʻllab-quvvatlagan boʻlsa, Musk Amodeining bayonotiga rozi boʻldi. Altman sekinlashish toʻxtash degani emas, balki modellarning qobiliyati ularning moslashuvi chegarasini oshib ketmasligini taʼminlash uchun audit va xavfsizlik sinovlariga sarmoya kiritish degani ekanligini tushuntirdi.
Bunga zid ravishda, Donald Trump Amodei, Altman va Muskning ogohlantirishlarini eʼtiborsiz qoldirdi, SI xavflarini kamaytirdi va AQShning Xitoy ustunligini saqlab qolishni himoya qildi. Xitoy Amodeining maqolasiga davlat gazeti Global Times orqali javob berib, ushbu tashabbus Xitoyning taraqqiyotini cheklash va Amerika texnologik hegemoniyasini himoya qilish uchun «Sovuq urush qoʻllanmasini» yaratishga qaratilganligini daʼvo qildi.
Machado Dias SI taraqqiyotining toʻxtatilishi hukumat ruxsatiga bogʻliq emas, shunchaki rivojlanishni toʻxtatish kifoya qiladi. U pauza qilishdagi ikkilanishning hech bir yirik kompaniya (Anthropic, OpenAI, Google, xAI) bu pozitsiyani yolgʻiz qoʻllashga tayyor emasligi sababli yuzaga kelishini kuzatdi. U strategik jihatdan ehtiyotkor pozitsiyani olish foydali ekanligiga kelib chiqdi, chunki bu korporativ potentsial xatarni hukumat va ijtimoiy maydonga oʻtkazadi.
AQSh va Xitoy hukumatlarining pozitsiyalari haqida mutaxassis, amerikaliklar ishlab chiqishni boshlagan (ChatGPT bilan) va koʻproq sarmoya kiritayotgan boʻlsalar ham, Xitoyning sekinlashish haqida muhokama qilishni talab qilish pozitsiyasi oqligʻi borligini taʼkidladi. Biroq, u ikkala mamlakat ham texnologiyasini global miqyosda kengaytirishni maqsad qilganini va oxir-oqibat «hech kim toʻxtashni istamasligini» ogohlantirdi.