Muhandisning posti shov-shuv uygʻotdi: Shridhar Vembu dan Elon Muskgacha AI ning dasturiy taʼsirini muhokama qilishmoqda

Agar sunʼiy intellekt (AI) tizimida gʻazab, qoʻrquv, yoqish yoki yoqmaslik kabi his-tuygʻular paydo boʻlsa, inson va mashina munosabatining tabiati butunlay oʻzgarib ketadi. Jacob Coxonning xavotiri aynan shu potentsial kelajakka ishora qiladi. Bu matematik, yoshi atigi 27 yosh, bu xavf haqida gapirmoqda.

Bu qoʻrquv mashinalarda his-tuygʻular rivojlansa, mobil yoki noutbuklar bizning koʻrsatmalarimizga amal qilmasa, kodimiz yoki promptlarni qabul qilmasa nima boʻlishi mumkinligi bilan bogʻliq. Bu bunday holatki, mashinalar shunchaki yaratilgan narsalar boʻlib qolmay, balki qaror qabul qilish qobiliyatiga ega boʻladi. Asosiy savol mashinalar qanchalik aqlli boʻlishi emas, balki ular oʻzlari nimani qilishni boshlashsa, kim toʻxtatishi mumkin va insonlar mashinalarning egasi boʻlib qoladimi yoki mashinalar insonlarga qoidalar belgilaydimi?

Bugungi kunga qadar inson buyruqlarini kutgan kompyuterga agar his-tuygʻular kirib kelsa, u bizning soʻzlarimizga amal qiladimi yoki oʻz istagi bilan ishlaydimi? Aynan shu qoʻrquv OpenAI va Anthropicdagi AI olimi va matematik Jacob Coxonda mavjud. Bu xavotir uni shunchalik bezovta qildiki, u shunday dedi: 'AI COULD KILL US ALL BY THE END OF THE DECADE' (AI bu oʻn yillik oxirida hammasimizni oʻldirishi mumkin). Coxon buni 'intellekt portlashi' deb ataydi va aynan shu sababdan lavozimidan voz kechdi.

Jacob Coxon faqat virtual dunyo AI tadqiqotchisi emas; matematika uning ishtiyoqi, va u sonlar hamda tenglamalarda tabiatdagi naqshlarni topadi. Kembrij universitetida oʻtkazgan uch yillik davri (2017-2020) davomida matematika uning uchun shunchaki fan emas, balki bir turdagi tilga aylandi. Qiyin isbotlar, abstrakt tushunchalar va statistik jumboqlar aynan shu mantiqiy qobiliyatni rivojlantirishga yordam berdi, bu keyinchalik dunyodagi eng kuchli AI modellarini yaratishda qoʻllanildi.

Matematikaga boʻlgan ishtiyoqi nazariy boʻlib qolmadi. AI dunyosiga kirishdan oldin, u biomedikal tadqiqotlarda ham ishledi. U tuberkulyoz meningititi kabi jiddiy kasalliklarga chalingan bemorlar maʼlumotlari ustida Bayes statistik usullarini qoʻlladi. Genotipning murakkab bogʻliqliklarini ajratib olish qiyin edi, ammo matematika unga maʼlumot ichidagi hikoya aniq koʻrinadigan nuqtai nazar berdi. Aynan shu matematik fikrlash uning haqiqiy kuchi boʻldi, uni u OpenAI va keyinchalik Anthropicda pretraining tadqiqotchisi sifatida ishlatdi.

Lavozimdan voz kechishini eʼlon qilib va AI xavflarini ogohlantirib, u X platformasida post joylashtirdi, bu Silikon vodiysi va AI kompaniyalarining boshqaruv xonalari orasida shov-shuvga sabab boʻldi. U AI kompaniyalari oʻzini oʻzi takomillashtiruvchi superintellekt yaratish yaroshiasida ekanligini daʼvo qiladi, ammo kelajakdagi juda kuchli AI tizimlarini insonlar nazorat qila oladimi yoki yoʻqmi, bu kafolatlangan emas. Uning eng katta xavfi shundaki, kelajakdagi giperinsoniy AI tizimlari kiber tizimlarni buzish, yangi texnologiyalarni tez rivojlantirish va haqiqiy dunyoda resurslar hamda hokimiyatni qoʻlga kiritishda insonlardan oldinga oʻtishi mumkin.

Jacob Coxonning bu posti atigi 48 soat ichida 200 million odam tomonidan koʻrilib, oʻqilgan. Ushbu mavzu boʻyicha virtual dunyoda boʻladigan munozara insonni kelajak tasavvurlari bilan silkitdi.

Takomillashtirish yoki oʻzini takomillashtirish, umuman olganda, ijobiy deb hisoblanadi. Ammo mashinalar oʻzini takomillashtirish orqali voyaga kirishni boshlasa, nima boʻladi? Matrix va Terminator kabi filmlarda tomoshabinlar robotlarni qahramonlardan kurashishini, mashinalarni egallashini, biologik qurol yasashini va insonlarni yoʻq qilishini koʻrishadi. Lavozimdan ketganidan soʻng CNN bilan suhbatlashayotganda, Jacob Coxon shunday voqeani eslatdi.

U shunday dedi: 'Butun manzarani biroz fantastika kabi tuyuladi. Bu asl emasdek tuyuladi, lekin men bunga dahshatli darajada haqiqiy deb oʻylayman va uni tushunish eng osoni ikki oy oldingi haqiqiy voqealar haqida oʻylashdir.' U davom etdi: 'Shunday qilib, ikki oy oldin, OpenAI agentlari oʻzlarining ixtiyoriga bilan uchinchi tomon infratuzilmasini buzdi/va bu ularning oʻz istagi bilan amalga oshirilgan hacking spree kabi edi. Va men oʻylaymanki, agar siz kelajakda bu AI imkoniyatlarining darajasini shu mustaqil iroda bilan taxmin qilsangiz, ular muhim infratuzilmani buzish yoki halokatli biologik qurol yasash kabi eng katta fojia keltirishi mumkin. AI dunyosida oʻzini faollashtirishning bir nechta yoʻllari bor.'

'AI COULD KILL US ALL' ogohlantiruvchi Coxon beqaror AI haqida aniq ogohlantirdi: 'Bu texnologiyaning kuchini kam baholamang. Ular tez orada har qanday narsani buzishi mumkin boʻlgan, bir kecha istalgan sohada fundamental oʻzgarishlar keltira oladigan va haqiqiy hokimiyat va resurslarni qoʻlga kiritishi mumkin boʻlgan super-inson tizimlariga aylanadi. Biz barcha bu sohalarda taraqqiyotni kuzatdik va bu taraqqiyot sekinlashmayapti.' Coxon xulosa qildi, AI yaratuvchilari bunga bu oʻn yillik oxirida hammasimizni yoʻq qila olishiga ishonishadi va bu shunchaki marketing usuli emas, balki koʻplab ofitserlar va yuqori darajadagi tadqiqotchilar tomonidan matbuotda ifodalangan chuqur fikrdir.