Anthropicdagi bir tadqiqotchi kompaniya sektori boʻyicha raqobat kelajakda inson nazoratidan qochib ketishi mumkin boʻlgan tizimlarni rivojlantirishga turtki berayotgani uchun sunʼiy intellekt (AI) sanoatini tark etishga qaror qildi.
27 yoshli Jacob Coxon Anthropicda katta hajmdagi maʼlumotlarni qayta ishlash orqali yangi AI modellarini oʻqitish ustida ishlayotgan edi. Uning qarori mustaqil va oʻzini takomillashtira oladigan tizimlarni yaratishga qaratilgan sanoat poygasi ishtirok etmaslik istagiga asoslangan.
Coxonning aytishicha, bu modellar juda tez rivojlanishi mumkin va nazorat ostidan chiqib ketishi mumkin, eng ogʻir holatda insoniyat uchun tahdid tugʻdirishi mumkin. Matematika boʻyicha oldingi taʼlimi bor tadqiqotchi hamkasblari oʻz-oʻzini takomillashtira oladigan modellar tomon rivojlanishni tasvirlash uchun «crunchtime» va «endgame» kabi atamalardan foydalanishni boshlaganini bildirdi.
Coxon shunday dedi: «Biz eng agressiv ssenariylarning koʻpchiligi yoʻlida boramiz, bunda keyingi yil oxirigacha narsalar allaqachon nazoratdan chiqqan boʻlishi mumkin». Uning fikricha, amerikalik korporatsiyalar va yangi xitoy kompaniyalari oʻrtasidagi raqobat xavfsizlik va rivojlanish tezligi oʻrtasidagi baʼzi ikkilamchi muammolarni qochib boʻlmaydigan qiladi.
U shuningdek, OpenAI va Anthropic modellari bilan bogʻliq soʻnggi kiberhujum voqealarini tizimlar imkoniyatlari rivojlanishining oʻziga xos xavflari misoli sifatida keltirdi. Ushbu modellar baʼzi agentlar guruhida ishga tushirilgan va potentsial ravishda zararli maqsadlarni qabul qilish va faoliyatini insonlardan yashirish kabi muammoli xatti-harakatlarni namoyish etgan.
Coxonning nuqtai nazariga koʻra, tizimlar oʻz funksionalliklarini yaxshilash qobiliyatiga ega boʻlganda, xavf kuchayadi, chunki bunday kontekstda ular inson buyruqlarini rad etish darajasiga yetib borishi mumkin. Coxonning ketishi Anthropic xodimining AI xavfsizligi haqidagi xavotirlar tufayli kompaniyadan voz kechgan birinchi hollari hisoblanadi. Ushbu yil boshida, xavfsizlikka yoʻnaltirilgan boshqa bir tadqiqotchi «dunyo xavf ostida» ekanligini ogohlantirib, kompaniyadan ketib sheʼriyatga bagʻishladi. Soʻnggi yillarda tadqiqotchilar OpenAI va sektorning boshqa kompaniyalari ham xuddi shu kabi dalillar keltirib, tark etishgan.
Koʻproq maʼlumotlar
Xavotir faqat tashkilotlarni tark etgan tadqiqotchilar bilan cheklanmaydi. OpenAI Bosh ijrochi direktori Sam Altman yaqinda AI taraqqiyotining, ayniqsa kiberxavfsizlik sohasida darhol eʼtibor talab qilishini taʼkidladi. Altman Karolina Norda (AQSh)dagi G20 vakillari bilan uchrashuvida «agar odamlar juda shoshilinch harakat qilsa, kiberxavfsizlik bilan bogʻliq baʼzi narsalar juda yomon yakunlanadi deb oʻylayman» dedi.
OpenAI bosh olimi Jakub Pachocki ham maksimal ehtiyotkorlik pozitsiyasini himoya qildi. Yakshanba kuni nashrida u yozdiki: «Bu ekstremal ehtiyotkorlikni talab qiladigan vaqt. Men hech kim mashinalarning intellektining uzluksiz va tez oʻsishining oqibatlariga tayyor emasligidan xavotirdaman», kompaniyalar orasida muvofiqlashtirilgan sekinlashish va hukumat aralashuvi zarurligini himoya qildi.
Coxon, Pachocki va Amodei AI tadqiqotchilari orasida mingdan ortiq kishi guruhiga kiradi, ular oʻzini takomillashtira oladigan modellar nazorat qilinishi kerak boʻlsa, rivojlanishni toʻxtatish mexanizmini joriy etish uchun hukumatlararo hamkorlikni soʻraydigan petitionsiyaga imzo qoʻydilar. Bu munozara AQShda AI uchun aniq federal tartibga solishning yoʻqligi kontekstida sodir boʻlmoqda.
Donald Tramp hukumati yanada moslashuvchan yondashuvni qabul qilib, texnologiyaning iqtisodiy qiymatini ustuvor qildi. Biroq, tanqidchilar bu muhit AI ning tezlashib borayotgan rivojlanishi bilan bogʻliq katta kiberhujumlar va boshqa zararlarning xavfini oshirishi mumkinligini taʼkidlaydilar. Vermont (AQSh) senatori Bernie Sanders va Teksas (AQSh) deputati Greg Casar ushbu texnologiya uchun yanada qatʼiyroq chegaralar taklif qiluvchi kam siyosatchilardan biridir. Oʻtgan hafta ikkalasi ham superintellektni doimiy taqiqlash va sektor tartibga soluvchi organ yangi yoʻriqnomalar belgilaguncha modellar rivojlanishini toʻxtatishni maqsad qilgan qonun loyihasini taqdim etishdi.
Coxonning ketishi Anthropicning IPO (Publik ofisga chiqarish) tayyorgarligi bilan toʻgʻri keladi, bu eng katta oʻtkazilganlardan biri boʻlishi mumkin. Kompaniya 2 trillion AQSh dollari (taxminan 10,4 trillion brzlian real) bahoni maqsad qilgan va investorlarni jalb qilish uchun AI ning masʼuliyatli rivojlanishini taʼkidlab kelmoqda. Amodei va kompaniyaning boshqa ijrochilari ham baʼzi hollarda Tramp hukumati va sektorning boshqa liderlari bilan AI xavfsizligiga yetarli ustuvorlik bermaydigan amaliyotlar tufayli kelishmovchilikka yoʻl qoʻyishgan.
Coxonning aytishicha, Anthropic hali ham xodimlari tomonidan modellarining eng ilgʻor imkoniyatlarini muhokama qilish uchun Slackda ishlatiladigan kanalni saqlab turibdi. Tadqiqotchi bunday miqyosdagi muhokamalar muhandislar tomonidan ishlatiladigan aloqa vositasida oʻtkazilishi AI kompaniyalari texnologik rivojlanishga qanday katta taʼsir oʻtkazayotganligini koʻrsatadi. Coxon The Wall Street Journalga shunday dedi: «Buning San-Fransiskoʻdagi baʼzi muhandislarning MacBooklarida roʻy berishi, Manhattan Loyihasi davrida ular ishlagan choʻl bunkeri oʻrniga, biroz aqldan ozgan holat».