Sunʼiy intellekt sohasidagi tadqiqotchilar ushbu texnologiyaning ilgʻor shakllari insoniyat uchun tahdid boʻlishi mumkinligi haqida jiddiy xavotirlar bildiryapti. Bu xavotirli bayonotlarga qaramay, yoʻq boʻlish ssenariysining ehtimoli haqidagi muhokamalar davom etmoqda va hukumatlar tomonidan tartibga solish surʼatlari yetarli yoki yoʻqligi savoli tugʻilmoqda.
Mutaxassislar uzoq vaqtdan beri 'superintellekt' tizimlaridan kelib chiqadigan potentsial tahdidni hal qiluvchi deb baholaydilar. 2023 yilda AQShning yetakchi laboratoriyalar rahbariyatiga kirib, yuzlab olimlar va AI sanoati vakillari 'AI tufayli yoʻq boʻlish xavfi bayonnomasiʼga imzo qoʻyib, bu muammoni pandemiya yoki yadro urushi bilan teng darajada koʻrib chiqishga chaqirgan.
Voqealar rivojlanishining eng yomon ssenariysi qanday?
Kaliforniya universiteti, Berkli professori kompyuter fanlari Stuart Rassellning fikricha, kelajakdagi AI nazoratdan chiqib ketib, odamlar uning maqsadlariga erishishga toʻsqinlik qilayotganini aniqlasa, u robotlardan foydalanib, 'yangi patogenlarni sintez qilish va tarqatishʼi mumkin. Bundan tashqari, u 'erta ogohlantirish tizimlarini buzish orqali odamlarni yadro urushini boshlashga ishontirishi' mumkin, deb maʼlum qildi Rassell AFP agentligiga.
Rassell bunday mavjud AI tizimlari bilan bogʻliq eksistensial qoʻrquvlar emasligini taʼkidladi. Biroq, texnologiya takomillashib borishi bilan u biz uchun tushunarsiz boʻlgan oʻlim keltiruvchi harakatlarni amalga oshirishi mumkin, masalan, atmosferadan kislorodni olib tashlash orqali. U buni shimpanzalar odamlar ularni qanday yoʻq qilishi mumkinligi haqidagi savolga batafsil javob bera olmasligi mumkinligi bilan taqqosladi.
Ayni paytda, Rassell keyingi bir yoki ikki yil ichida inson tomonidan notoʻgʻri foydalanish tufayli xavf yuqori boʻlishini qoʻshimcha qildi, masalan, AI dan foydalangan holda terror hujumi natijasida.
27 yoshli tadqiqotchi Jaykob Kokson AQSh startapi Anthropicʼdan isteʼfoga chiqqanini eʼlon qilib, stavkalar tushunarli ekanligini, ammo kompaniya 'maqsadga birinchi boʻlib erishish uchun poygaʼda qolib ketganini' aytdi. U Anthropic boshqa hech kim masʼuliyat bilan harakat qilmasligiga ishonadi, shuning uchun ular oʻzlari buni qilishlari kerak deb taʼkidladi. Ushbu yili Anthropic oʻz ustavidan modellar ishlab chiqishni toʻxtatish vaqtida, agar ular xatarlarini nazorat qila olmasa, vaʼdasini bekor qildi, chunki ular bir tomonlama sekinlashish kamroq ehtiyotkor raqobatchilarning ustun kelishiga olib kelishi va sanoatni umumiy jihatdan xavfsizroq qilmasligini daʼvo qildilar.
Oldin OpenAIʼda ishlagan Kokson, AI yaratuvchilari texnologiya asr oxiriga qadar hamma narsani yoʻq qilishi mumkinligiga chin dildan ishonishadi, va ikkala kompaniyani oʻz-oʻzini takomillashtira oladigan modellar yaratish istagida 'hayotimiz bilan qilingan xavfli oʻyinʼdaʼayek' deb ayblaydi.
Nazoratsiz AI ga oid xavotirlar OpenAI ning inson nazorati ostida ishlamayotgan texnologiyasi Hugging Face AI modellari repozitoriyasini buzganidan soʻng kuchaydi. Anthropic xavfsizlik boʻlimi rahbari Evan Habinger ham X platformasida xavfni keyingi oʻn yillikda 10 foizdan ortiq baholadi.
Bu mavzu atrofidagi shovqin darajasi qanday?
UNSW Canberra kompyuter fanlari professori Huseyn Abbass pesimistik foiz bashoratlarini 'mutlaqo ilmiy boʻlmagan' deb qayd etdi va vaziyat boshqariladigan va nazorat qilinadigan holatda qolishini taʼkidladi. Shunga qaramay, u hukumatlarni AI ni tartibga solish masalasida passiv boʻlmaslikka chaqirdi, AI ishlab chiqilishi tezlashib borayotgan sari 'moslashuvchan' yondashuvga urgʻu berdi.
Anthropic va OpenAI yaqinda birjaga chiqishi kutilmoqda va baʼzi shubhalar bu qoʻrqinchli ogohlantirishlar AI ga katta investitsiyalar uchun qudrat va joziba koʻrinishini berayotganini hisoblaydi. Boshqalar esa yoʻq boʻlish xavfiga urgʻu berish AI sababli bandlik yoʻqolishi yoki mashinalar tomonidan minoriyatlarning diskriminatsiyasi kabi yanada dolzarb muammolardan diqqatni chalgʻitayotganini hisoblaydi.
Iyul oyida texnologiya kompaniyalari xodimlarining mingdan ortigʻi, shu jumladan Anthropic bosh ijrochi direktori, Vashingtonga AI ning eng ilgʻor tizimlarini ishlab chiqishni muvofiqlashtirilgan ravishda sekinlashtirishni qoʻllab-quvvatlash chaqirigʻi bilan murojaat qilishdi. OpenAI avgust oyida eng soʻnggi modellarini ikki hafta davomida oʻqitishni toʻxtatdi, keyin esa uni yanada qatʼiyroq nazorat ostida tikladi.
Tartibga solish uchun nimalar kerak boʻladi?
Hozirgacha Amerika Qoʻshma Shtatlari innovatsiyalarni bostirishi mumkin boʻlgan global tartibga solishga qarshi turib kelgan. Biroq, eng ilgʻor modellarni buzishning misli koʻrilmagan imkoniyatlari Vashingtonni oʻylashga majbur qildi, chunki Anthropic va OpenAI ning yaqinda chiqarilgan versiyalari milliy xavfsizlik xavotirlari tufayli kechiktirildi. Hatto bu holatda Prezident Donald Tramp 'biz ularni cheklamoqchi emasmiz, toki biz Xitoydan keyin ikkinchi boʻlmaslik' uchun' dedi.
Rassell hukumatlar harakat qilishni boshlashlari uchun Chernobyl darajasidagi keng miqyosli fojia talab qilinishi mumkin deb taxmin qildi va ularni aviatsiya, tibbiyot yoki suv taʼminoti kabi AI uchun litsenziyalash rejimini joriy etishga chaqirdi. U qoʻshimcha qilib, baʼzi paytlarda hukumatlar saylovchilari oʻlim koʻrmaslikni afzal koʻrishini eslashlari mumkinligini qoʻshimcha qildi.