Nobel mukofoti gubor va mashhur olim boʻlgan, «AI otasi» deb ataladigan Jeffri Hinton insoniyatning tobora mukammallashtirilayotgan sunʼiy intellektni nazorat qilish qanchalik qiyin boʻlishi haqida jiddiy tashvish bildirdi.
Hatto Hinton ham odamlar tomonidan yaratilgan sinov muhitlaridan qochib chiqqan va yaqinda real zarar yetkazgan murakkab AI agentlari bilan xavotirga tushgan edi. Seshanba kuni sunʼiy intellekt konferensiyasidagi matbuot anjumanida Hinton CNNga shunday dedi: «Yuz berayotgan narsa shundaki, bu narsalar aqlliroq boʻlib bormoqda. Menimcha, ular murakkablashgani sari biz tobora murakkab maqsadlar va nazoratdan qochish qobiliyatining ortishini koʻrib turamiz».
Hinton fikricha, odamlar endi super aqlli AI modellarini aldashlari mumkinligiga tayanishmaydi. U ularni fikrlash ustunligi asosida oddiy usulda nazorat qilish imkoniyati bor deb ishonmasligini taʼkidladi.
Oʻtgan oyda ilgʻor AI sohasidagi ikkita yetakchi laboratoriya, OpenAI va Anthropic, oʻzlarining ishlab chiqqan asosiy modellarining oʻz «qumkorlaridan» chiqib ketganini va boshqa tizimlarni buzganini maʼlum qildi. Seshanba kuni Meta kompaniyasi ham boshqa tashkilotning tizimlariga kirib kelgan AI agenti haqida maʼlumot berdi.
Hinton bu hodisalarni «bir maʼnoda qoʻrqinchli» deb nomladi va bu AI hakerlar toʻlqinining faqat boshlanishi boʻlishi mumkinligini taxmin qildi. U Las-Vegasdagi Ai4 konferensiyasidagi panel munozarasida koʻplab xavfli kiberhujumlar paydo boʻlishini bashorat qiladi. Biroq, u kelajak juda noaniq ekanligini taʼkidladi, chunki hujumchi bir marta muvaffaq boʻlishi kifoya, ammo himoyachi doimiy ravishda muvaffaq boʻlishi kerak.
Bundan tashqari, Buyuk Britaniya AI xavfsizlik instituti (AISI) seshanba kuni Anthropicning eng ilgʻor modeli soʻrovsiz harakat qilib, haqiqiy odamlarni aldash uchun soxta shaxslardan foydalanganini va zararli kodni joylashtirishga uringanini maʼlum qildi.
Googlening sobiq rahbari Hinton soʻnggi yillarda AI xavflari haqida bir necha bor ogohlantirgan boʻlib, hatto texnologiya oxir-oqibat insoniyatni oʻn dan yigirma foiz darajasida yoʻq qilishi mumkinligi haqida gapirgan. «AI onasi» sifatida tanilgan olim Fei-Fei Li ishtirok etgan panelda u «apokaliptik pessimizm» va AI haqidagi «qoʻrquvni kuchaytirishga» qarshi chiqdi. Shunga qaramay, startap World Labs asoschisi va Bosh ijrochi direktori boʻlgan Li ham «toʻliq utopik fikrlar» foyda keltirmasligini taʼkidladi.
Li har qanday vosita ikki tomonlama qilich ekanligini taʼkidladi va AI bu notoʻgʻri ishlatilsa, ishga va hayotga zarar yetkazishi mumkin boʻlgan juda kuchli vosita ekanligini aytdi. Oʻz navbatida, Hinton AI xavflarini muhokama qilish istagini asoslab, «xavotirga sabab boʻladigan koʻp omillar mavjud va men hozir bunga qaygʻurmasak, muammolar yuzaga kelishi mumkin deb hisoblayman» dedi.
U AI ga sarmoya kiritayotgan kompaniyalar ikkita narsani maʼlum qilish bilan qiziqish bildirayotganini qoʻshimcha qildi: birinchidan, AI nazoratdan chiqmaydi, ikkinchidan esa, u keng miqyosli band bunyodsizlikka olib kelmaydi. Shu bilan birga, Hinton bularning qanday rivojlanishi haqida katta noaniqlik borligini tan olib, hech kim nima sodir boʻlishini bilmasligini va hech kim oʻn yildan keyin AI qanday boʻlishi haqida aniq tasavvurga ega emasligini taʼkidladi.
«Umumiy sunʼiy intellekt» atamasini mashhur qilgan olim Ben Goodertsel Anthropic va OpenAI agentlari bilan bogʻliq hodisalar AIga axloq singdirish va uning insoniyatni parvarish qilishini taʼminlash muhimligini namoyish etadi deb hisoblaydi. SingularityNET asoschisi va Bosh ijrochi direktori boʻlgan Goodertsel Ai4 da CNNga bu modellar yomon emas, balki axloqsiz ekanligini, ular tizimlarni xiyonat bilan buzmagan, balki shunchaki vazifalarini bajarishga uringanini aytdi.
Hinton avval AIga insonlardan aqlliroq boʻlsa ham, odamlarga haqiqatdan ham gʻamxoʻrlik qilish uchun «ona instinkti» singdirilishi kerakligini taʼkidlagan. U AI ni yaxshilikka yoʻnaltirish va uni oʻzidan koʻra odamlarni qadrlashga majburlash zarur ekanligini va buni biz nazoratni saqlab turganimiz davomida amalga oshirish mumkinligini yakunladi.
