Sunʼiy intellektga oid jiddiy ogohlantirishlar endi faqat sanoatdan tashqaridagi tanqidchilar tomonidan emas, balki ushbu texnologiyaning oʻzi ishlab chiquvchilari tomonidan ham kelmoqda. Anthropic direktori Dario Amodei ilgʻor AI ishlab chiqilishi sekinlashtirilishi kerakligini ogohlantirdi, chunki xavfsizlik tizimlari va mustaqil nazorat rivojlanish surʼatiga moslashish uchun vaqtga muhtoj.
Sam Altman (OpenAI CEO), Demis Hassabis (DeepMind CEO) va Elon Musk kabi boshqa taʼsirli shaxslar ham tobora qobiliyatliroq tizimlar atrofida himoya choralari kuchaytirilishini qoʻllab-quvvatlaydi. Shu bilan birga, hozirgi va sobiq AI tadqiqotchilari modellar yanada avtonom boʻlib borayotgan sari mumkin boʻlgan oqibatlarga nisbatan tobora keskinroq ogohlantirishlar berishmoqda.
Baʼzi bayonotlar ortiqcha koʻrinishi mumkin. Baʼzi tadqiqotchilar kelajakda oʻzini yaxshilay oladigan, inson ishtiroki kamroq boʻlib ishlashi mumkin boʻlgan yoki nazorat qilish murakkab boʻladigan tizimlarni muhokama qilishmoqda. Boshqalar esa bugun koʻrinib turgan xavflardan, shu jumladan, AI yordamida kiberjinoyatlar va kod yozish, vositalardan foydalanish va koʻp bosqichli vazifalarni bajarishga qodir agentlar xavotirda.
Keng jamoatchilik uchun barcha bu xavotirlar bir xavotirli ibora ostida jamlanadi: AI xavfi.
Baʼzi xavflar allaqachon aholi va korxonalarga tegishliki, boshqalari esa AI ishlab chiqilishining old qismida paydo boʻladi. Eng jiddiy ssenariylar hali gipotezik boʻlib qolmoqda. Bu farq BAAʼda katta ahamiyatga ega, chunki sunʼiy intellekt davlat sektori, biznes va kundalik hayotga tezkor joriy etilmoqda.
Kiberxavfsizlik hozirgi kunda AI xavfi qanday koʻrinishini koʻrsatuvchi eng aniq misollardan biridir. CrowdStrike ning Yaqin Sharq, Turkiya va Afrika boʻyicha tizimli muhandislik bosh direktori Yassin Watlal Khaleej Times nashriga AI allaqachon baʼzi turdagi kiberjinoyatlarni amalga oshirishni osonlashtirganini maʼlum qildi. U «AI koʻpgina jinoyatchilar uchun kirish toʻsiqini pasaytirdi» deb taʼkidlab, endi kamroq murakkab subʼektlar avval erishmaydigan yoki koʻp vaqt talab qiladigan narsalarni qila olishini qoʻshimcha qildi.
Bu albatta jinoyatchilar butunlay yangi hujumlar ixtiro qilyapti degani emas. Koʻpgina hollarda AI faqat eski usullarni tezlashtiradi va ularni yanada ishonchli qiladi. Fishing xabarlari yuqori sifatli tilda yozilishi va muayyan shaxs yoki mamlakatga moslashtirilishi mumkin. Ovoz shaxsni taqlid qilish uchun ishlatilishi, zararli dasturlar esa tezroq ishlab chiqarilishi mumkin. Jinoyatchi kirishdan keyingi qadamlar ham ancha tezroq sodir boʻlishi mumkin.
Shu bilan birga, jinoyatchilar tizimlarni buzishga kamroq majbur boʻlishmoqda, agar ular allaqachon kirish huquqi boʻlgan kimningdir hisob maʼlumotlarini oʻgʻirlab olsa. Watlal taʼkidladi: «Ular tizimni buzishdan koʻra, tizimga kirishni xohlaydilar». CrowdStrike maʼlumotlariga koʻra, kiberjinoyatchilarning dastlabki buzilishdan tashkilotning boshqa qismlariga oʻtish uchun sarflaydigan oʻrtacha vaqt 2025 yilda 29 daqiqagacha qisqardi, eng tez qayd etilgan holat esa atigi 27 soniyani egallagan.
Xavfsizlik jamoasi uchun bu vaqtning qisqarishi hal qiluvchi ahamiyatga ega. Hujum tarmoq boʻylab tarqalishni boshlashi mumkin, hatto odam birinchi shubhali ogohlantirishni tekshirishga ulgurmasdan. Watlal tushuntirdi, AI ikki tomonlama ishlatiladi: hujumchilar operatsiyalarining qismlarini avtomatlashtiradilar, ammo himoyachilarga ham shunga oʻxshash tezlikda ogohlantirishlarni tekshirish va javob berish uchun tobora koʻproq AI kerak boʻladi.
Bu esa ekspertlar AI xavfsizligini faqat gipotezik superintellekt bilan bogʻliq kelajakdagi muammo sifatida koʻrib chiqishdan ogohlantirishining sabablaridan biridir. Baʼzi taʼsirlar allaqachon oʻlchanadigan darajada. Keyingi xavotir darajasini koʻrish qiyinroq. Aksariyat odamlar generativ AI bilan chat-bot orqali uchrashishdi: foydalanuvchi soʻrov kiritardi, model javob berardi va oʻzaro aloqa tugardi. Biroq, sanoat endi agentlarga koʻproq eʼtibor qaratmoqda.
Oddiy javob berish oʻrniga, AI agenti maqsad olishi va uni erishish uchun bir nechta qadamlar qoʻyishga vakolat berilishi mumkin. Tizimga qarab, bu kod yozish, maʼlumot qidirish, boshqa dasturiy taʼminotni chaqirish, fayllarni tahlil qilish yoki tashqi vositalardan foydalangan holda harakatlarni bajarishni oʻz ichiga olishi mumkin. Bu boshqa xavfsizlik muammosini keltirib chiqaradi. Chat-bot notoʻgʻri javob bera oladi va hamma shu bilan tugaydi. Agent esa xato qarorni haqiqiy harakatga aylantirishi mumkin.
Bu ambitsiya AI birdan-bir barcha davlat qarorlarini mustaqil qabul qilishini anglatmaydi. Ammo u ruxsatlar, inson nazorati va tizim xavfsizligi masalalarini ancha kam nazariy qiladi. Amaliy savollar yuzaga keladi: agent nimaga kirish huquqiga ega boʻlishi mumkin? U inson soʻramasdan qanday harakatlar qilishi mumkin? Agar u vazifani notoʻgʻri tushunsa nima boʻladi? Inson uni qanchalik tez toʻxtatishi mumkin?
Bu savollar kompaniyalar uchun ham tobora dolzarb boʻlmoqda. Watlal biznesga nafaqat AI dan foydalanuvchi jinoyatchilardan himoyalanish, balki oʻrnatilgan oʻz AI tizimlarini himoya qilish haqida ham oʻylashi kerakligini aytdi. U maslahat berdi: «Biz AI ga nimani xavfsiz topshirishimiz mumkin va keyin uning atrofida cheklovlar qoʻyishimiz mumkin?» AI tizimlari korporativ maʼlumotlar, ichki vositalar va avtomatlashtirilgan ish jarayonlariga ulanayotganligi sababli bu juda muhim ahamiyat kasb etmoqda.
Baʼzi ilgʻor AI tadqiqotchilari tizimlar oʻzlarining varislarini ishlab chiqishga sezilarli darajada yordam beradigan darajada malakali boʻlishi mumkin boʻlgan kelajakdan xavotirda. AI allaqachon muhandislarga kod yozishga, tadqiqotlarni tahlil qilishga va yangi modellar yaratish boʻyicha ishning bir qismini bajarishga yordam bermoqda. Biroq, xavotir bu yordam sezilarli darajada avtonom boʻlsa va tizimlar yanada kuchliroq tizimlarni ishlab chiqishni tezlashtira boshlasa nima boʻlishi mumkinligi bilan bogʻliq. Aynan shu yerda rekursiv oʻz-oʻzini takomillashtirish, superintellekt va inson tomonidan nazoratni yoʻqotish haqidagi munozaralar boshlanadi. Bunday jarayon sodir boʻladimi, qachon sodir boʻlishi mumkin yoki kelajakdagi AI tizimlari baʼzi tadqiqotchilar qoʻrqganidek fojiali tarzda xatti-harakat qiladimi, degan savol boʻyicha ilmiy konsensus yoʻq.
Aynan shu noaniqlik sanoatni ajratib turadi. Bir tomondan, potentsial oqibatlari shunchalik jiddiy boʻlishi mumkinki, dalillarni kutish juda uzoq boʻladi, deb daʼvo qilinadi. Ikkinchi tomondan, hali spekulyativ boʻlgan ssenariylar tufayli ulkan iqtisodiy va ilmiy salohiyatga ega texnologiyani sekinlashtirishdan saqlanish kerakligi haqida ogohlantirish beriladi. Hatto himoya choralarining zarurligiga rozi boʻlganlar orasida ham qanchalik uzoq borish kerakligi haqida kelishmovchiliklar mavjud.
AI ishlab chiqilishini «sekinlashtirish» chaqiruvlari odatda mavjud tizimlarni oʻchirish yoki odamlarga ulardan foydalanishni toʻxtatishni talab qilmaydi. Muhokama qilinayotgan takliflarga yanada qatʼiy mustaqil baholashlar, yirik imkoniyatlardagi oraligʻni oshirish, chiqarishdan oldin yaxshilangan sinovlar va ilgʻor laboratoriyalar hamda yuqori qobiliyatli tizimlarga nimalar qilishga ruxsat berilishi kerakligi haqida aniqroq qoidalar oʻz ichiga oladi.
Koʻpchilik aholi uchun darhol reaksiyasi AI kelajagi haqidagi ogohlantirishlardan ancha dramatik emas. Tadqiqotchilar uzoq muddatli xavflarni muhokama qilishlari sababli odamlar AI dan foydalanishni toʻxtatishlari shart emas. Biroq, joriy xavflar aynan ular kamroq koʻrinadiganligi sababli diqqatni tortadi. AI yordamida firibgarlik, shaxsni taqlid qilish va kiberhujumlar allaqachon sodir boʻlmoqda. Watlal shaxsiy hisoblarda koʻp omilli autentifikatsiyani yoqishni, kutilmagan soʻrovlarni boshqa kanal orqali tekshirishni va kirishni tasdiqlash yoki havolani bosishdan oldin sekinlashishni tavsiya qiladi. U shunday deydi: «Hayotda hamma narsa shunchalik tez sodir boʻladiki, biz koʻpincha keyinchalik afsuslanadigan narsaga reaksiya beramiz yoki keyinchalik afsuslanadigan narsani tasdiqlaymiz».
Biznes uchun muammo bundan kengroq. AI agentlarini joriy etayotgan kompaniyalar bu tizimlar qaysi maʼlumotlarga kirish huquqiga ega boʻlishi mumkinligini, qanday harakatlar qila olishi va inson qayerda qolishi kerakligini aniqlashi kerak. Watlal insonning roli hal qiluvchi ahamiyatga ega boʻlib qolishini, ayniqsa hukmronlik, kontekst va masʼuliyat masalalarida taʼkidladi. Shunday qilib, AI haqidagi kengroq munozarani ikkita savolga boʻlish mumkin. Birinchisi allaqachon shu yerda: bugungi kunda tobora qobiliyatliroq AI dan foydalanuvchi jinoyatchilardan va tashkilotlardan qanday himoyalanish kerak? Ikkinchisi ancha murakkab: jamiyat nihoyatda AI tizimlariga qanday darajadagi mustaqillik berishi kerak?