Yaqinda sodir boʻlgan voqealar kuchli sunʼiy intellekt tizimlarining potentsial xavfi haqida xavotirlarni keltirib chiqardi. Sentabrda Anthropicdagi tadqiqotchi isteʼfoga chiqqan va kuchli AI ishlab chiquvchilarining «oʻn yillarning oxiriga bizning barchamizni yoʻq qilishi mumkin deb chin dildan ishonishini» ogohlantirgan.
Bir necha kun oʻtib, Qirollik Charles Shotlandiyadagi AI sammitini ochib, «mavjudlik xavflari» va «koʻproq qorongʻu qobiliyatlar — balki hatto oʻldirish qobiliyati hamga ega boʻlishi mumkin boʻlgan» texnologiyalar haqida gapirdi.
Bill Gates AI notoʻgʻri qoʻllanilganda «milliardlar soni oʻlimlarga olib keladigan hodisalarni» keltirib chiqarish uchun yetarli quvvatga ega ekanligini ogohlantirdi. Shu bilan birga, yangiliklarda «nazorat qilinmayotgan AI agentlarining» qochishi va ularning «izolyatsiyadan chiqishi» holatlari haqida xabarlar paydo boʻldi, ammo himoya choralari, xavfsizlik standartlari va buzilgan tizimlarga kamroq eʼtibor qaratildi.
AI dan foydalanish boʻyicha qaror qabul qiluvchi biznes liderlari pessimistiklar yoki entusiastlardan hech qanday foyda koʻrmaydilar. Ularga bu texnologiyaga qachon ishonish mumkinligini aniqlash uchun yanada qatʼiyroq mezon kerak.
Oʻn yillik davomida AI sohasida ishlaydiganlar uchun zamonaviy tizimlar maʼlum maʼnoda orzu amalga oshirilishidir. Mashinalar endi til bilan nima qilishga qodir ekanligi avval erishib boʻlmaydigan narsaga oʻxshardi.
Biroq, moʻjiza ishonch degani emas. AI ning aʼlo darajada narsalar qilish qobiliyati uning kelajakda ishonchli bajarishi mumkinligi, uning chegaralari qanday yoki biz unga maʼlum vazifalarni topshirish uchun bu chegaralarni yetarlicha tushunishimiz mumkinmi, haqida kam maʼlumot beradi.
Shuning uchun, xavotirli sarlavha paydo boʻlganda, quyidagi savollarni berish kerak: nimalar sinovdan oʻtkazildi, qanday sharoitlarda, qanday kirish bilan va qanday himoya choralariga ega? Keyin ushbu hodisa aynan nimani namoyish etayotganini aniqlash kerak. Dramatik tavsif tushuntirish emas.
Ortiqcha ekstrapolyatsiya
Bu sohaning tarixi mashinalar tez orada insonlar bilan tenglashishi yoki ulardan ustun kelishi haqidagi bashoratlar bilan toʻla. Zamonaviy tizimlar oʻzlarining avlodlaridan sezilarli darajada yuqori qobiliyatga ega va baʼzi jihatlarda, masalan, dasturiy taʼminot va matematika ishlab chiqishda ular allaqachon bizdan ustun turadi. Taraqqiyot juda tez surʼatda yuz berdi.
Tarixiy saboq shundaki, haqiqiy taraqqiyot bizni juda uzoq tashlab ketadigan taxminlar qilishga jalb qiladi. Bunday ishonchli prognozlarining bir sababi AI tilni juda ravon ishlatishi mumkin. Til inson tajribasining markaziy elementi boʻlgani uchun biz silliq tizimlarni inson terminlari bilan tasvirlaymiz: ular fikrlaydi, xohlaydi, xavotirlanadi. Bu soʻzlar aql-idrok va maqsad haqidagi farazlarni oʻz ichiga oladi, bu esa texnologiya samaradorligi tasdiqlamaydi.
Tizimning xatti-harakati jiddiy qabul qilinishi va diqqat bilan tahlil qilinishi kerak, insonga oʻxshash tavsiflar tahlil vazifasini bajarmasligi kerak. AI imkoniyatlari notekisdir. Ushbu tizimlar bilan kundalik ishlaydigan odamlar ularning murakkab til va mantiqni hayratlanarli darajada bajarishini koʻrishadi, keyin esa inson uchun oddiy deb hisoblangan biror narsada muvaffaqiyatsizlikka uchraydi. AI ni ish jarayonlariga yoki mijozlarga xizmat koʻrsatishga integratsiya qilgan tashkilotlarda bunday nosozliklar sezilarli yoʻqotishlarga olib kelishi mumkin. Ular zararli niyatlar haqida gapirmaydi; ular bitta vazifadagi muvaffaqiyat boshqa vazifadagi ishonchlilikni kafolatlamasligini koʻrsatadi.
Shuning uchun, direktorlar kengashlari va rahbariyat mahalliy muhitlari uchun yaratilgan, ammo kuchli, cheksiz umumiy tizimlardan koʻra, lokalizatsiya qilingan AI ga afzallik berishlari kerak. Shuningdek, bitta muhitda ishlaydigan ehtiyot chorasi boshqa muhitda ham ishlaydi deb faraz qilish mumkin emas.
Yanada nozik xavf mavjud: ot haydovchiga oʻrgatadi. AI hali ongli boʻlmagan yoki bizni oʻzgartirish istagini shakllantirmagan, ammo tashkilotlar foydalanadigan vositalarga moslashadi. Rahbariyatlar xodimlarining tezkor javoblarga ishonishni boshlaganmi, ularni tekshirmasdanmi, jarayonlar vazifa talab qilgan narsaga emas, balki tizim nima ishlab chiqarishi mumkinligiga qarab qayta tuzilayotganmi va ijodiy hukm asta-sekin topshirilayotganmi, chunki AI aslida mavjudidan koʻra koʻproq qobiliyatli tuyuladimi, degan savolni berishlari kerak.
Javob AI qayerda va qanday ishlatilayotganini aniq belgilashda. Ishni boshlashdan oldin, afrikalik korxonalar beshta savolga javob berishlari kerak:
- Vazifani nomlang: AI aynan nima qilishni soʻrayapti?
- Haqiqiy sharoitlarda tekshiring: Tizim haqiqiy mijozlar bilan ishlaydimi? U ularning tilidan tushunadimi?
- Taʼsirni cheklang: Unga haqiqatan qaysi maʼlumot kerak? Siz taxmin qilgan barcha maʼlumotlarga kirishiga kerakmi?
- Ishlashni tekshiring: Xatoliklar qanday aniqlanadi? Mijozlar maxfiyligi kabi yuqori xavfli sohalarda qanday nazorat choralari mavjud?
- Masʼuliyatni aniq saqlang: Tizim ishdan chiqqanda kim javobgar? Inson qayerda va qachon aralashishi kerak?
AI ni masʼuliyatli joriy etish oʻrtacha, ammo talabchan standartga asoslanadi: AI ni uning kontekstda qiymatini isbotlagan joylarda ishlatish, uni xavfga nisbatan proporsional cheklash va uni joriy etishga qaror qabul qilgan odamlar uchun masʼuliyatni saqlab qolish.