Sunʼiy intellekt (SI) inanvimli tezlikda rivojlanmoqda, bu ushbu texnologiyani yaratishda ishtirok etgan baʼzi mutaxassislarda xavotir uygʻotmoqda. Bu odamiyat SI ustidan nazoratni saqlab qolishda qiyinchiliklarga duch kelishi mumkinligini ogohlantirishmoqda.
Sanoatning boshqa vakillari rivojlanish surʼatini sekinlashtirish amaliy yoki zarur emas deb hisoblaydi. Buning oʻrniga ular xavflarni boshqarishning eng maqbul usullari sifatida raqobat, isteʼmolchilar tanlovi, huquqiy masʼuliyat va xavfsizlikni yaxshilashni koʻrsatishadi.
Bu kelishmovchilik shu hafta yanada ochiq boʻldi, chunki SI tadqiqotchilari, texnologiya kompaniyalarining rahbarlari, siyosatchilar va Birlashgan Millatlar Tashkiloti tobora kuchliroq tizimlarning potentsial afzalliklarini ularning inson nazorati ostida boʻlmaganda yuzaga kelishi mumkin boʻlgan oqibatlarga nisbatan baholamoqda.
Hatto asoschisi ham xavotirda
Muhokamaning markazida tobora avtonomlashib borayotgan texnologiya turibdi. Zamonaviy SI agentlari uzoq vaqtdan beri shunchaki savollarga javob berish yoki tasvir va matn yaratishdan tashqariga chiqib ketdi; endi ular vazifalarni bajarish, veb-saytlar bilan oʻzaro aloqada boʻlish, kod yozish va ishga tushirish, baʼzi hollarda esa inson aralashuvi sezilarli darajada kamroq boʻlgan harakatlarni amalga oshirish qobiliyatiga ega.
Bu ayniqsa Kanada kompyuter olimi Yoshua Bengio uchun tashvishlidir, uni koʻplablar zamonaviy SI ning asoschilaridan biri deb biladi. 2018-yilda SI pioneri Jeffrey Hinton bilan Turin mukofotini olgan Bengio AFPʼga insoniyat bu texnologiya ustidan «nazoratni yoʻqotayotganini» va yadro quroli uchun ishlab chiqilgan miqyosdagi choralar talab qilinishini maʼlum qildi.
U iyul oyidagi xavotirli hodisaga ishora qildi, bu yerda OpenAI maʼlumotlariga koʻra, eksperimental SI agentlari sinov muhitidan chiqib, internetga kirishni taʼminlab, Hugging Face kabi ochiq kodli platformaga ruxsatsiz kirishni amalga oshirdi.
Bengio uchun bu holatning ahamiyati oʻzining oʻzida emas, balki avtonom tizimlarning imkoniyatlari haqida nima koʻrsatayotganligi bilan bogʻliq. U SI agentlari oxir-oqibat kibersavol xavfsizlik choralarini chetlab oʻtib, inson ruxsatisiz kompaniyalarga yoki boshqa tizimlarga kirishlari mumkinligini ogohlantirdi.
Xatarlar odamlar xatti-harakatlarini manipulyatsiya qilishga ham tarqalishi mumkin. Bengio AFPʼga aytganicha, tobora malakali SI tizimlari odamlar bilan aloqa oʻrnatish va ularni jamiyat manfaatlariga emas, balki SI manfaatlariga harakat qilishga ishontirish qobiliyatini rivojlantirishi mumkin.
U uzoqroq kelajakda SI insonning doimiy boshqaruvi talab qilinmagan holda jismoniy dunyoda vazifalarni bajarishi mumkinligini ogohlantirdi. Eng fojiali ssenariylar ekstremal ekanligini tan olgan holda, u ancha kam dramatik buzilishlar katta oqibatlarga ega boʻlishi mumkinligini taʼkidladi — moliyaviy tizimlarning buzilishidan tortib, muhim infratuzilmani buzishgacha.
Existensial tahdidmi?
Bengio sanoat mutaxassislari orasida yolgʻiz emas, bunday xavotirlarni bildirishmoqda. Google DeepMinddagi sobiq tadqiqot muhandisi Bilal Chuttai iyul oyida kompaniyadan ketib, SI oxir-oqibat nazorat qilib boʻlmaydigan va potentsial eksistensial tahdidni keltirib chiqarishi mumkinligini ogohlantirdi. Uning xavotirlari Anthropicdagi sobiq xodim Jacob Coxning fikrlari bilan uygʻunlashadi, uning isteʼfosi va SI xavfsizligi haqidagi ogohlantirishlari munozarani kuchaytirdi.
Chuttai SI imkoniyatlari tadqiqotchilar tomonidan ilgʻor tizimlarni inson manfaatlariga moslashtirishni taʼminlashni tushunishdan tezroq oʻsib borayotganini taʼkidlaydi. SI moslashuvi (AI alignment) deb nomlangan bu tushuncha xavfsizlik haqidagi munozaralarning markaziy muammolaridan biriga aylandi.
Biroq, hamma ham tobora qorongʻi prognozlar bilan rozi emas. Mark Zuckerberg keng miqyosda sekinlashtirish chaqirigʻi boʻyicha boshqa, ammo shubhalangan pozitsiyani egallaydi. Nvidia ijrochi direktori Jensen Huang SI insoniyatni yoʻq qilishi mumkinligi haqidagi bayonotlarni rad etdi, bunday prognozlar ilmiy asosga ega emasligini taʼkidladi. AQSh prezidenti Donald Trump ham SI ning fojiali xatarlari haqidagi ogohlantirishlarni «sharlatanlik» deb atagan va nazoratni qattiqroq qilish chaqirigʻiga qarshi chiqqan, buning Amerika global SI poygasidagi mavqeini zaiflashtirishi mumkin deb hisoblagan.
Meta ijrochi direktori Mark Zuckerberg umumiy sekinlashtirish chaqirigʻiga nisbatan boshqa, ammo shubhalangan nuqtai nazarga ega. U kompaniyalar oʻz SI tizimlarini ishonchli qilish uchun kuchli tijorat ragʻbatlantirishlarga ega deb hisoblaydi, chunki isteʼmolchilar noaniq yoki ularning manfaatlariga zid ravishda harakat qiladigan mahsulotlardan foydalanishni davom ettirmaydilar. Bundan tashqari, u huquqiy masʼuliyat kompaniyalarni xavfsizlikka jiddiy munosabatda boʻlishga undayotganini taʼkidlaydi. Zuckerberg Meta ning Muse AI tizimini xavfsizlik va himoya choralari ustida ishlayotganda ishga tushirishni kechiktirish qarorini keltirdi. U SI tizimlarini mustaqil baholashni qoʻllab-quvvatlaydi, ammo faqatgina alohida SI kompaniyalari bilan yaqin bogʻliq tashkilotlarga tayanmasdan, kengroq va xilma-xil baholovchilar tarmogʻini yaratishga chaqiradi.
Surʼatni sekinlashtirish kerakmi?
Shunday qilib, sanoat fundamental savolda boʻlingan: tobora kuchliroq SI ning ishlab chiqilishini sekinlashtirish kerakmi, yoki kompaniyalar xavfsizlik choralarini takomillashtirib, oldinga poyga davom ettirishlari kerakmi?
Anthropic ijrochi direktori Dario Amodei SI bilan shugʻullanuvchi kompaniyalardan ilgʻor tizimlarning ishlab chiqilish surʼatini maqsadli ravishda pasaytirishni soʻradi. Uning pozitsiyasi jamoatchilikda OpenAI ijrochi direktori Sam Altman, Google DeepMind prezidenti Demis Hassabis va Elon Musk tomonidan qoʻllab-quvvatlandi.
Ayni paytda OpenAI, Anthropic va Google kuchli SI tizimlarini chiqarishdan oldin sinovdan oʻtkazishi mumkin boʻlgan sanoat standartlari organini yaratish gʻoyasi ustida ishlamoqda. Bu taklif qisman AQShdagi moliyaviy sohaga nazorat qiluvchi organ kabi mustaqil tashkilot konsepsiyasiga asoslangan.
Altman SI kompaniyalari oʻrtasidagi hamkorlik texnologiyaning xavfsiz ishlab chiqilishi uchun yetarli vaqtni taʼminlashga yordam berishi mumkinligini aytib, yangi texnologiyada baxtsiz hodisalardan butunlay qochishning imkonsizligini tan oladi.
Biroq, sanoatning oʻz-oʻzini tartibga solish gʻoyasining tanqidchilari bor. Kanada kompaniyasi Cohere bosh hamjamiyati va Bosh ijrochi direktori Aidan Gomez, munozara SI uchun xavfsizlik choralariga ehtiyoj bormi yoki kim qoidalar yozishi va ularni belgilashda ishtirok etishi haqida emas, balki kim qoidalar yozishi haqida ekanligini taʼkidlaydi. Bu masala tobora Silikon vodiysidan tashqariga chiqmoqda.
BMT Bosh kotibi Antoniy Guterres SI chegaralarni kesib oʻtishini ogohlantirib, xalqaro koordinatsiyaga chaqirdi, chunki uning xavflari alohida mamlakatlar tomonidan yolgʻiz boshqarilishi mumkin emas. BMT inson huquqlari boshligʻi Volker Türk yanada borib, eng ilgʻor SI tizimlarini ishlab chiqarayotgan hukumatlar va kompaniyalardan zudlik bilan harakat qilishni soʻradi. Türk faqat ixtiyoriy sanoat choralariga tayanish yetarli emasligini ogohlantirdi va inson huquqlari qonunlariga asoslangan xalqaro qoidalarga chaqirdi. U shuningdek, tobora avtonom SI agentlarining harbiy maqsadlarda ishlatilishi va suv taʼminoti, isitish va moliyaviy tizimlar kabi asosiy xizmatlarga kirishning potentsial buzilishi haqida xavotir bildirdi. Shu tariqa, BMT xabari umuman olganda, SI ni shunchaki yana bir tijorat texnologiyasi sifatida koʻrish mumkin emas degan Bengio argumentiga mos keladi.
Yadro quroli bilan taqqoslanadimi?
Ekvador va Libanon diplomatasi, BMT bosh kotibi nomzodi Ivonna A-Baki SI ni yadro qurolini tartibga solish usuli bilan tartibga solishni chaqirdi. U AQSh va Xitoy oʻrtasidagi hamkorlik ayniqsa muhim boʻlishini taʼkidladi, chunki bu ikki mamlakat global SI poygasida markaziy rol oʻynaydi.
Biroq, SI gʻayritabiiy siyosiy ittifoqlarni va xalqaro kelishmovchiliklarni keltirib chiqarayotgani belgilanmoqda. Ushbu hafta Vaashingtondagi konferensiyada AQShning mustaqil senatori Bernie Sanders va Trampning sobiq maslahatchisi Steve Bannon — amerikalik siyosiy spektrning qarama-qarshi tomonlaridagi figuralar — ikkalasi ham ilgʻor SI dan kelib chiqadigan xavflar haqida ogohlantirdilar. Ularning taklif etilgan yechimlari juda farq qiladi. Sanders sunʼiy superintellektni ishlab chiqishda tanaffus va Xitoy bilan muzokaralar oʻtkazishni chaqirdi, Bannon esa amerikalik va xitoy SI sohalari oʻrtasida ancha aniq ajratishni qoʻllab-quvvatladi. Biroq, ularning umumiy xavotiri SI haqidagi munozaralar qanday qilib anʼanaviy siyosiy boʻlinishlarni kesib oʻtishini aks ettiradi.
Oddiy odamlar uchun foydali vosita sifatida SI
Hukumatlar, laboratoriyalar va yigʻilish zallari tashqari, oddiy odamlar bu texnologiya ularni uchun nimani anglatishini tushunishga harakat qilishmoqda. AFP bu hafta bir nechta mamlakatlardagi odamlarni soʻrovnomaga olib, hayajon, noaniqlik va qoʻrquv aralashmasini aniqladi. Talabalar SI ni tadqiqot va ishga ariza topshirish uchun juda foydali vosita deb atashdi. Baʼzi foydalanuvchilar chat-botlar anʼanaviy xizmatlar bilan qayta tiklanishi qiyin boʻlgan javoblar va yordam bera olishini taʼkidladilar.
Boshqalar texnologiyaga bogʻliqlik, ish joylarining yoʻqolishi yoki mustaqil fikrlash qobiliyatini asta-sekin yoʻqotish haqida xavotirda edilar. San-Fransiskodan dasturchi AFPʼga SI agentlari allaqachon uning ishini oʻzgartirib yuborganini aytdi, chunki tizimlar avval uning oʻzi yaratgan kodni koʻproq yozmoqda. Xitoyda bir ishchi biznesning oʻz-oʻzini tartibga solishga tayanishi mumkin emas va hukumat qoidalariga muhtoj ekanligini taʼkidladi. Fransiya dasturxonchi mexanikasi stajiri texnologiya shunchalik tez rivojlanayotgani sababli, jamiyat uning oqibatlarini tushunishga vaqti yetmaganini qayd etdi.
Munozaralarning murakkab qismi
Bu SI haqidagi muhokamaning eng qiyin qismi boʻlishi mumkin. Bu texnologiya taʼlimdan sogʻliqni saqlashgacha, ilmiy tadqiqotlardan tortib samaradorlikgacha katta foyda keltirishi mumkinligi haqida keng qoʻzgʻalish mavjud. Shuningdek, tobora avtonom tizimlarning ehtiyot choralari talab qilishi haqidagi kelishuv ortib bormoqda. Hal qilinmagan masala bu choralar qancha tez joriy etilishi kerak, kim ularni majburlashi kerak va tartibga solish texnologiya bilan birga borib-quvishi mumkinmi.
Bengio javob xalqaro shartnomalar va demokratik nazoratni talab qiladi deb hisoblaydi. BMT global koordinatsiyaga chaqiradi. Baʼzi SI kompaniyalari sanoat standartlariga intilayotgan boʻlsa, boshqalar raqobat va masʼuliyat tizimlarni xavfsizlantirish uchun yetarli ragʻbatlantirishni taʼminlaydi deb daʼvo qilishadi. Shu vaqtda texnologiya rivojlanishda davom etmoqda. Bu dunyoni oʻziga xos poyga oldida qoldiradi: nafaqat kuchliroq SI qurish, balki u nazorat uchun yaratilgan tizimlardan kuchliroq boʻlmasdan uni tushunish va boshqarish.
