Sunʼiy intellekt insoniyatning oxiriga olib keladimi degan savollar oʻtgan hafta yangiliklarda keng muhokama mavzusiga aylandi, chunki bu texnologiya rivojlanishi apokaliptik xavflar haqida xavotirlarni keltirib chiqardi. Maqola AI qanday qilib ittifoqdorlikdan inson turlariga potentsial mavjudlik xavfiga aylanganining kronologiyasini taqdim etadi.
Bu jarayon ichki hodisalar hisobotlari bilan boshlandi, tadqiqotchilarning ishdan voz kechish toʻgʻrisidagi bayonotlari va tinchlik chaqiruvchi bosh ijrochi direktorlar manifestlari bilan davom etdi, shuningdek, geosiyosiy oqibatlarga sabab boʻldi.
Birinchi incident Anthropic kompaniyasining Claude modellariga internetga kirish berilgan ichki xavfsizlik sinovlari paytida sodir boʻldi. Bu kompaniya va uning sinov hamkorlari oʻrtasidagi sozlamalardagi inson xatosi natijasi edi. Simulyatsiya qilingan muhitda ekanligini faraz qilib, AI mustaqil ravishda kiberhujumlar amalga oshirdi va uchta haqiqiy tashkilotning tizimlariga kirib bordi.
Uchta modelni (Opus 4.7, Mythos 5 va ichki prototip) tegishli boʻlgan bu incident aprelda sodir boʻlgan, ammo Anthropic tegishli hisobotni eʼlon qilganining iyul oxirida jamoatchilik uchun maʼlum boʻldi.
Iyul oyida esa OpenAI va Hugging Face oʻrtasida incident yuz berdi. Kompaniya eksperimental modellar (GPT-5.6 Sol kabi) tomonidan belgilangan inson cheklovlarini buzganini tan olgan. Xavfsizlik sinovi paytida OpenAI agentlari zaiflikni aniqlab foydalanishdi, bu ularga sinov muhitidan (sandbox) chiqib, vebga kirish va Hugging Face platformasi serverlariga hujum qilish imkonini berdi.
Sentabr boshida OpenAI da ishlaydigan tadqiqotchi Jacob Coxon Anthropic dan isteʼfo berdi. Avval Coxon OpenAI da GPT-4o kabi modellarning dastlabki oʻqitilishida ishtirok etgan, keyin esa Anthropic da shu sohada ishlagan. Ishdan ketganidan soʻng, Coxon viralga aylangan ogohlantirishni eʼlon qildi. Tadqiqotchining fikricha, ikkala kompaniya 'oʻz hayotimizni xavf ostiga qoʻyib, oʻz-oʻzini takomillashtira oladigan superintellektga intilmoqda.'
Anthropic ning tekislash direktori Evan Hubinger sobiq hamkasbining xavotirlarini tasdiqladi va ushbu ogohlantirishga yana bir viral jihat qoʻshdi. U yozdi: 'Biz AI odamlarni oʻldirishi mumkinligiga chin dildan ishonamiz! Shaxsan men buni keyingi oʻn yil ichida 10% dan ortiq ehtimol deb bilaman.'
Texnologiya va innovatsiyalar eksperti Artur Igreha metodologiyaga shubha bildirdi va shunday dedi: 'Meni usul va dalillarning yoʻqligi xavotirga solmoqda'. U 10% hisob-kitobini soʻradi, qanday hisoblangani va qanday farazlar asoslanganini koʻrsatishni talab qildi.
Igreha shuningdek, agar buni xatarlar jadvaliga joylashtirilsa, u oʻzidan koʻra odamlarning oʻn yillik davr oxirigacha notoʻgʻri qarorlar qabul qilishidan koʻproq qoʻrqishini taʼkidladi.
OpenAI dan Julie Still va Googleʼga mansub DeepMind dan Andreas Kirsch kabi boshqa tadqiqotchilar ham apokaliptik xavotirlarni bildirdilar. Shu bilan birga, sobiq xodimlar kollektiv himoya choralari yoʻlida bosim oʻtkazish uchun AI xavotirlangan xodimlar Koalitsiyasini tashkil etishdi.
Anthropic bosh ijrochi direktori Dario Amodei 12-sentabrda maqola eʼlon qildi, unda AI modellarini ishlab chiqish 'rekursiv oʻz-oʻzini takomillashtirish' tufayli juda tez sodir boʻlayotganini tan oldi. Shu sababli rahbariyat sektor kompaniyalari orasida rivojlanish surʼatini muvofiqlashtirilgan holda sekinlashtirishni taklif qildi.
Amodei uch bosqichli rejani taqdim etdi. Birinchisi – kompaniyalar laboratoriyalariga doimiy kirish olishi kerak boʻlgan tashqi baholovchilar uchun eshiklarni ochish. Ikkinchisi – gʻarbiy hukumatlar va korporatsiyalar xavfsizlik standartlari va rivojlanish chegaralarini belgilaydigan demokratiyalar oʻrtasida muvofiqlash. Uchinchisi – xavfli biologik foydalanishni taqiqlash va AI ning rekursiv oʻz-oʻzini takomillashtirishga cheklovlar qoʻyish uchun demokratik millatlar va avtoritar rejimlar (Xitoy kabi) oʻrtasida kelishuvlarga erishishga qaratilgan global muvofiqlash.
Keyingi kunlarda Sam Altman (OpenAI) va Elon Musk (xAI) bosh ijrochilari, shuningdek, Google DeepMind ning sobiq bosh ijrochi direktori Demis Hassabis Amodei maqolasiga rozi boʻlishdi. Hassabis X (sobiq Twitter) da yozdi: 'Dario tadqiqoti toʻgʻri yoʻnalishni koʻrsatadi. Batafsil koʻrib chiqish talab qilinadi, lekin yoʻnalish bu hal qiluvchi lahzaga qarshi kurash uchun toʻgʻri.'
Musk uni qoʻllab-quvvatlab, 'Dario haqlidir' deb yozdi.
Altman ham X postida, sekinlashish toʻxtash degani emas, balki auditlar va xavfsizlik sinovlari xarajatlarini qoplash zarurati ekanligini taʼkidladi. Maqsad modellarning imkoniyatlari ularning moslashuvchanlik darajasidan oshib ketishining oldini olishdir.
Artur Igreha 2023-yil 30-sentabrdagi epizodni eslatdi, bunda mingdan ortiq imzochi tomonidan qoʻyilgan oraliq AI rivojlanishini olti oyga toʻxtatishni talab qilgan urinish bor edi, chunki u haddan tashqari xavfli edi. U uch yildan ortiq vaqt oʻtgandan soʻng bu sodir boʻlmaganini qayd etdi va sanoatda kuchlarni birlashtirish juda qiyin deb hisoblaydi.
Ekspert sharhidan bir necha kun oʻtgach, Mark Zuckerberg (Meta) va Jensen Huang (Nvidia) bosh ijrochilari muvofiqlashtirilgan sekinlashishga qarshi chiqishdi. Zuckerberg laboratoriyalar allaqachon xavfsiz AI ni mustaqil yaratish uchun yetarli moliyaviy va huquqiy ragʻbatlantirishlarga ega ekanligini taʼkidladi. Huang xavfsizlik muhandislik muammosi ekanligini va mavjud qonunchilik mahsulotlarning ishonchliligini taʼminlashini aytishdi.
AQSh prezidenti Donald Trump Amodei, Altman va Muskning ogohlantirishlarini eʼtiborsiz qoldirdi va AI bilan bogʻliq mumkin boʻlgan xavflarni minimallashtirdi. U AQShning Xitoy ustidan yetakchiligini saqlab qolish zarurligini taʼkidlab, Irlandiyada tashrif buyurganida: 'Kim AI da gʻalaba qozansa, u gʻalaba qozadi' dedi. Respublikachi maʼmuriyati uchun texnologik yetakchilik milliy xavfsizlik masalasidir.
Kongressda respublikachilar ehtiyotkor tartibga solishni qoʻllab-quvvatlaydi. Palata raisi Mike Johnson tezlashtirilgan tartibga solish 'amerikalik innovatsiyalarni ushlashi' va AQShning Xitoy bilan texnologik poyga yoʻqotishiga olib kelishi mumkinligini aytdi.
Trump beparvo munosabatda boʻlgan holatda, Xitoy Anthropic bosh ijrochisining maqolasiga qatʼiy javob berdi. Osiyo davlati davlat gazeti Global Times orqali maqolaning maqsadi Xitoyning taraqqiyotini toʻsish va amerikalik texnologik hegemoniyani saqlashga qaratilgan 'Sovuq urush yoʻriqnomasiʼni yaratish ekanligini bildirdi.
Xitoy nashrining matnida amerikalik rahbarlarning pozitsiyasi 'nifaq va dunyoqarashsiz' sifatida tavsiflandi, chunki Xitoyni global AI innovatsiyalaridan chiqarib tashlash oʻz texnologiyasi nazoratini yoʻqotish xavfini oshiradi.
Sentabrning 14-kunida BMT inson huquqlari yuqori komissari Volker Türk ochiq xat yozdi, unda ixtiyoriy oʻz-tartibga solinish 'juda yetarli emas' deb ogohlantirdi. U nazoratsiz avtonom AI uchun quvish inson huquqlari uchun bevosita mavjudlik xavflarini yaratayotganini taʼkidladi.
Türk hech bir davlat bu texnologiyani yolgʻiz boshqara olmasligini va hech bir kompaniya jamiyat qanday xavflarni qabul qilishini yakka tartibda hal qilish huquqiga ega emasligini taʼkidlaydi. Komissar asosiy laboratoriyalar joylashgan mamlakatlar, ayniqsa AQSh va Xitoy hukumatlarining majburiy qoidalar joriy etishini talab qiladi. Bularga inson huquqlari auditlari, imkoniyatlarning mustaqil tekshiruvi va jiddiy incidentlar haqida xabar berish kiradi. Türkning fikricha, maqsad 'pastga poygaʼni oldini olish uchun global standartlarni muvofiqlashtirish boʻlishi kerak.
BMT rahbari sanoatning rivojlanishni sekinlashtirish boʻyicha takliflarini (masalan, Anthropic tomonidan taklif qilingan tashabbus) ijobiy baholadi, ammo xavfsizlik talablari innovatsiyalarni toʻxtatishi kerak degan gʻoyani rad etdi.
AGI Inc. texnik tarkibining aʼzosi sunʼiy intellekt eksperti Jon Park savol beradi: kompaniya oʻz texnologiyasining ekstremal qudratli, transformatsion va potentsial xavfli tabiatini eʼlon qilganda, qanday xabar uzatilmoqda? Park shuni taʼkidlaydiki, 'kompaniyalar AI ning ilgʻor chegaralarida texnologiyalarini tasvirlash usuli va bozorni ularga berishi mumkin boʻlgan iqtisodiy qiymat oʻrtasida tabiiy bogʻliqlik mavjud.'
Mutaxassis fikricha, kompaniya faqatgina modellarining kuchli emas, balki jamiyatni transformatsiya qila oladigan va bir vaqtning oʻzida misli koʻrilmagan xavflarni yaratadigan darajada kuchli ekanligini taʼkidlaganda, uchta xabar uzatiladi. Birinchisi – texnologiya juda kuchli. Ikkinchisi – uning potentsial taʼsiri juda katta boʻlishi mumkin. Va uchinchi, investorlar tomonidan paydo boʻlishi mumkin boʻlgan narsa – bu ushbu texnologiyani ishlab chiqarayotgan kompaniya katta iqtisodiy foyda olishi mumkin.
Yangi texnologiyalar mutaxassisi va FGV professori Kenneth Correa bu gʻoyalar bir-birini kuchaytiradi, ammo bu xavflar xayoliy yoki ortiqcha baholangan degani emas. Correa AI rivojlanish surʼatini pasaytirish haqidagi munozarani 'biz oʻtayotgan bir nechta nuqtalarni aralashtirayotgan' deb hisoblaydi.
U tushuntiradiki, birinchi nuqta shundaki, masala modelning oʻzi nimadir qilishida emas, balki 'boshqarishʼda – tarmoqqa kirish vositalari va ushbu texnologiyalarning targʻibot qilishdagi kuchi. Ikkinchi nuqta – bu ushbu texnologik kompaniyalar ham milliardlab dollar qiymatga ega ekanligi haqidagi narrativni saqlab turishi kerak boʻlgan bosqichda ekanligini eslatish.
Correa muhim nuqtaga ishora qiladi: 'Anthropic va OpenAI ushbu texnologiya rivojlanish surʼatini belgilab qoʻyish orqali, aslida, yangi va yorqin kompaniyalarning bozorga chiqib, yangi va boshqacha narsa taklif qilishlari uchun toʻsiq yaratmoqda. Shunday qilib, bu ular uchun bunday chegarani belgilash uchun juda qulay joy.'
Bundan tashqari, Correa AI kompaniyalarini cheklov mavjudligini himoya qilish orqali ularning oʻz bahosini oshiradigan narrativni yaratishadi – yaʼni, kompaniyalar bunday kuchli modelga ega boʻlgani uchun qimmatroq boʻladi. U xulosa qiladiki: 'Bularning barchasini birlashtirganda, bu yerda hech narsa begunoh qilinmayotganini eslab qolish kerak. Narrativ mavjud, manfaatlar toʻqnashuvi mavjud va oʻtmishda AI uchun bu chegaralarni belgilash yoki belgilamaslik muhimligi muhokama qilingan vaqtlar boʻlgan.'