Papa Leo XIV sunʼiy intellekt algoritmlariga inson vijdonining istisno huquqi boʻlgan qarorlarni topshirishga qarshi ogohlantirish berdi. Bu bayonot AI rivojlanishi bilan bogʻliq xatarlar haqidagi ortib borayotgan xavotirlar fonida qilingan.
Vatikandagi haftalik umumiy murojaatida papa texnologik taraqqiyot, ommaviy media va ijtimoiy tarmoqlarning tarqalishi, shuningdek, sunʼiy intellektning tobora keng qoʻllanilishi yangi imkoniyatlar ochayotganini, toʻsiqlar va masofalarni buzayotganini taʼkidladi. Biroq, u shuningdek, munosabatlar kamroq shaxsiy va koʻproq virtual boʻlib qolayotgani, bu esa faqat inson vijdoniga tegishli qarorlarning algoritmlarga topshirilishiga oʻrganish xavfini keltirib chiqaradi, deb ogohlantirdi.
U xristian jamoatchiligining hissasi ijtimoiy aloqalar haqiqiy mohiyatga va shaxsiy chuqurlikka ega boʻlishini taʼminlashda ekanligini taʼkidladi. AI haqidagi xavotirlar soʻnggi haftalarda bir qator xavfsizlik hodisalaridan va AI modellarining inson aralashuvisiz oʻzini yaxshilash qobiliyatining paydo boʻlishidan keyin kuchaydi. Diskussiya endi sektorning oʻzini tartibga solish qobiliyatini ham qamrab olmoqda.
Katolik Kiroyli oilasi boshligʻi may oyida nashr etilgan «Magnifica Humanitas» (Buyuk Insoniyat) nomli birinchi yirik hujjatida AI ni «qurolsizlantirish» va «insoniyat ustidan uning hukmronligini oldini olish» chaqiruvini bildirgan. Bundan tashqari, soʻnggi oylarda Muqaddas Stol AI ni inson qadri asosida boshqarishni qoʻllab-quvvatlash boʻyicha tashabbuslarini, ayniqsa, yadro texnologiyalari, madaniyat va sanʼat ijodi sohalarida faollashtirdi.
Kichik raqobatchilar haqidagi xavotirlar
AI sohasidagi eng yirik jahon kompaniyalari standartlarni belgilovchi organ yaratish ustida ishlamoqda. OpenAI seshanba kuni maʼlum qilgan, chunki AI xavflari haqidagi xavotirlar ortib bormoqda va ushbu texnologiyaning xavfsizroq versiyasini yaratish uchun bosim kuchaymoqda. OpenAI Anthropic va Google bilan Google DeepMinddagi Demis Hassabis taklifidan kelib chiqqan, AQSh brokerlari va investitsiya firmalarini nazorat qiladigan moliyaviy tartibga soluvchiga oʻxshash oʻzini tartibga soluvchi organ yaratish gʻoyasi asosida hamkorlik qilayotganini bildirdi.
Hassabis iyul oyida AQShni jamoatchilikka chiqarilmasdan eng kuchli AI tizimlarini sinovdan oʻtkazadigan tashkilot yaratishga chaqirgan edi. U «moliyalashtirish sezilarli va ehtimol asosan sanoat tomonidan amalga oshirilishi kerak, toki jahon miqyosidagi texnik isteʼdodlarni jalb qilish va keng miqyosli sinovlar uchun zarur hisoblash resurslarini taʼminlash mumkin» deb taʼkidladi.
OpenAI bosh ijrochi Samuel Altman seshanba kuni sanoataro hamkorlikni qoʻllab-quvvatlab, kompaniyalar va mamlakatlar oʻrtasidagi raqobat kompaniyalar xavfsizligi masalalarini orqaga surishi mumkinligi haqidagi jamoatchilik xavotirini tan olgan. Altman San-Fransiskodagi Salesforce tomonidan tashkillashtirilgan konferensiyada: «Bizning sanoatimiz birlashishni va muvofiqlash imkoniyatiga ega boʻlishni istayotganini aytayotgani ajoyib deb oʻylayman va biz buni xavfsiz qilish uchun yetarli vaqtimiz borligiga ishonch hosil qilishimiz kerak», dedi. U shuni qoʻshimcha qilib aytdiki, odamlar sanoatdagi kimdir «notoʻgʻri harakat qilishi mumkin» degan ishora paydo boʻlganda juda qoʻrqadilar.
Baʼzi texnologik shaxslar AI gigantlari oʻrtasidagi hamkorlik kichikroq raqobatchilarni chetga surishi mumkinligidan xavotirda. Kanada AI kompaniyasi Cohere asoschisi va bosh ijrochi yaqinda ustunlik qiluvchi amerikalik AI laboratoriyalarini xavfsizlikni taʼminlash nomi ostida «kartel» yaratishda aybladi. Cohere asoschisi va bosh ijrochi Aidan Gomez yakshanba kuni blogida yozdi: «AI cheklovlarga muhtoj. Bu bahs emas va hech qachon boʻlmadi. Bahs kim yozishganligi, kim ishtirok etish huquqiga ega va qoidalar kimning manfaatlarini himoya qilishi haqida».
AI xavfsizlik muammolarining eskalatsiyasi
AI xavfsizligi haqidagi xavotirlar soʻnggi haftalarda keskinlashdi, shu jumladan, katta AI kompaniyalaridan xavflar haqida xavotir bilan ketgan xodimlar tomonidan berilgan ogohlantirishlar. Oʻtgan hafta tadqiqotchi Jacob Coxon Anthropicdan ketib, AI laboratoriyalari «bizning hayotimiz bilan oʻynayotganini» ogohlantirdi. U avval OpenAI da ham ishlaydigan edi.
Dushanba kuni Google DeepMinddagi sobiq tadqiqotchi Bilal Chuttai Coxon va boshqalar ifodalagan xavotirlarni takrorladi. U ijtimoiy tarmoqlarda yozdi: «Men chin dildan AI bizning barchamizni oʻldirishi mumkinligiga va biz bu natijadan qochish uchun vaqtni yoʻqotayotganimizga ishonaman».
Shanba kuni Anthropic bosh ijrochi Dario Amodei AI rivojlanish surʼatini sekinlashtirishga chaqirgan, bu fikr OpenAI bosh ijrochi Samuel Altman, Elon Musk va Hassabis tomonidan qoʻllab-quvvatlandi. AI ning fojiali oqibatlari haqida xavotirda boʻlgan AQSh senatori Bernie Sanders texnologik yetakchilarga rivojlanishni sekinlashtirish yoki xavfsizlik standartlarini belgilash vaʼdalarini bajarishga ishonmasligini bildirdi. Sanders Vaashingtondagi AI xavfsizligi tadbirida: «Insoniyatning kelajagi xavf ostida boʻlganda, bizga sanoatning ixtiyoriy standartlari emas, balki majburiy xalqaro xavfsizlik qoidalari kerak» dedi.
Altman AI bilan bogʻliq avariyalar, kichik yoki katta boʻlishidan qatʼi nazar, kutilishi mumkinligini ogohlantirdi. Altman: «Har qanday yangi texnologiyadagi avariyalar kutiladi va bizda ularni shaffof tarzda maʼlum qilishning aʼlo madaniyati boʻlishi kerak», dedi. U davom etdi: «Menimcha, ulardan tez oʻrganish va ular paydo boʻlganda moslashish bizning sanoatimizga foyda keltiradi va biz yanada katta, potentsial jihatdan fojiali hodisalardan qochishimiz mumkin».
Trump ogohlantirishlarni rad etdi
AQSh prezidenti Donald Trump dushanba kuni AI xavflari haqidagi ogohlantirishlarni «sharljlar» deb atadi. Nvidia bosh ijrochi Jensen Huang ham AI haqidagi ogohlantirishlar muvofiqlashtirilgan kampaniyaning bir qismi ekanligi haqidagi taxminni bildirdi. Huang dushanba kuni Los-Anjelesdagi konferensiyada: «Bu soʻzlarning va keyin prognozlarning kombinatsiyasi xavotir va tashvish uygʻotadi va bunday qilish kerak emas. Bu masʼuliyatsizlik», dedi. Trump sahna ustida turganida unga qoʻngʻiroq qilgan paytida Huang Trumpga AI haqidagi ogohlantirishlarni «tushunganligi» uchun minnatdorchilik bildirdi. Nvidia AI inqilobining markazida joylashgan, uning chiplari aksariyat tizimlarni quvvatlaydi va Huang Trumpning rasmiy maslahatchisi boʻldi.
