Bir necha yil oldin sunʼiy intellekt (AI) mavzusi bu qadar murakkab emas edi. ChatGPT kabi vositalar paydo boʻlgandan soʻng, foydalanuvchilar savollar berishni boshladilar va tez orada AI shunchaki yangi texnologik vosita emasligi aniqlandi. Shu bilan birga, har bir yirik texnologiya kompaniyasi AI sohasidagi strategiyasini taqdim etdi. Yangi modellar paydo boʻldi, katta hisoblash quvvatlari talab qilindi va milliardlab dollar mablagʻlar sarflandi, bu esa kompaniyalar oʻrtasida yetakchilik uchun poyga boshlanishiga sabab boʻldi.
Biroq, vaziyat oʻzgarishni boshladi. Bugun teskari tendensiya kuzatilmoqda. Anthropic va OpenAI AI sohasidagi ikkita yetakchi jahon kompaniyasidir va ular kuchli modellarga ega. Bu kompaniyalarning rahbarlari nima uchun AI rivojlanish surʼatini sekinlashtirishni qoʻllab-quvvatlayotgani savoli tugʻiladi. Bir nechta nazariyalar mavjud: baʼzilari bu rahbarlar bozordagi monopoliyani saqlab qolish uchun naqsh qilyapti deb hisoblaydi; boshqalar esa amerikalik kompaniyalar Xitoydan ortda qolgan va hukumatni tartibga solishga chaqirmoqda.
Biroq, shuni taʼkidlash kerakki, amerikalik kompaniyalar AI ni tartibga solishga chaqirayotgan boʻlsa-da, AQSh prezidenti Tramp bunday tartibga solishga qarshi turibdi.
Anthropic direktori Dario Amodey Frontier AI ning taraqqiyot surʼati haqida xavotir bildirdi va buni «frontier surʼati» deb nomladi. Shu bilan birga, u bu AI ishlab chiqilishining toʻliq toʻxtatilishi haqida gapirmayotganini taʼkidladi. Uning argumenti shundaki, modellar imkoniyatlari oʻsish surʼati xavfsizlik, sinov va monitoring tizimlarining rivojlanish surʼatini ortda qoldirmoqda. Agar bu farq doimiy ravishda oshib borsa, bizda juda kuchli AI boʻlsa-yu, uni tushunish va nazorat qilish tizimlari yetarli darajada tayyor boʻlmasligi mumkin boʻlgan vaziyat yuzaga kelishi mumkin.
Bu muhokama ichidagi eng qiziqarli savolni koʻtaradi: agar AI shunchalik xavfli boʻlsa-ki, uning sekinlashishi zarurligi haqida gapirilayotgan boʻlsa, unda avval nega uning rivojlanishini tezlashtirish talab qilingan edi? Javob faqat texnologik kompaniyalar xato qilganligi bilan cheklanmaydi. Koʻproq malakali modellar koʻproq foydali, koʻproq foydali modellar koʻproq foydalanuvchilarni jalb qiladi va koʻproq foydalanish katta biznesni anglatadi.
Lekin AI ning joriy rivojlanish yoʻnalishi avvalgi hisob-kitoblarni oʻzgartirdi. AI oddiy chat-bot boʻlib qolmadi; u agentlarga tomon harakatlanmoqda. Agent — bu shunchaki savollarga javob bermaydigan, balki kompyuterni boshqarish, tadqiqotlar oʻtkazish, kod yozish, vositalardan foydalanish va koʻp bosqichli vazifalarni mustaqil bajarish qobiliyatiga ega tizimdir.
Agar AI faqat bitta javob bersa, odam uni tekshirishi mumkin. Ammo agar shu tizim maʼlum bir maqsadga erishish uchun oʻnlab yoki yuzlab harakatlarni boshlashni boshlasa, vaziyat tubdan oʻzgaradi. U qaysi yoʻlni tanlashini, qaysi maʼlumotga tayanishini va kutilmagan vaziyatda qanday harakat qilishini bashorat qilish qiyin.
AI xavfsizligi terminologiyasida bu moslashuv (alignment) muammosi deb ataladi. Oddiy qilib aytganda, bu AI nimani qilishni istashi va odamlarning nimani xohlaganligi oʻrtasidagi moslik darajasidir.
OpenAI ning asosiy olimi Jacob Pachocki bu muammoni «An Alien Mind» ishida koʻtardi. U zamonaviy mantiq modellarining kompyuterlardan va grafik interfeyslardan foydalana olishi, odamlar va boshqa AI tizimlari bilan ishlashi hamda tadqiqotlar olib borishi mumkinligini taʼkidladi. Biroq, moslashuv va monitoring muammosi hali maksimal tezlikda jiddiy xavotirlarsiz rivojlanishni davom ettirish imkonini beradigan darajada hal qilinmagan.
Anthropic tadqiqotchisi Jacob Coxan ketishi bu muhokamaga yangi daraja qoʻshmoqda. Coxan AI sanoatining yoʻnalishi va oʻz-oʻzini takomillashtiruvchi AI tomon poyga haqida jiddiy xavotir bildirdi. Uning hamkasbi Ivan Hyubinger shaxsiy baholarida keyingi oʻn yilda AI tufayli insoniyatning yoʻq boʻlish ehtimoli oʻn foizdan oshishi mumkinligini taxmin qildi. U bu yerda ehtiyotkorlik zarur ekanligini taʼkidladi. Biroq, bu ilmiy konsensus yoki isbotlangan prognoz emas, balki tadqiqotchining shaxsiy xavf bahosidir.
Coxan haqida turli fikrlar mavjud: baʼzilari uni xabardor sifatida koʻrishadi, garchi bu yorliqdan ehtiyotkorlik bilan foydalanish kerak boʻlsa ham. U sanoat ichidan jiddiy savollarni koʻtardi, ammo uning holatini xabardorning rasmiy maʼlumot berishi sifatida koʻrish mumkin emas.
Boshqa tomondan, AI kompaniyalari xavfsizlikka nisbatan qoʻrquvni namoyish etish orqali kelajakdagi tartibga solish uchun zamin yaratayotgani haqida nazariya mavjud. Biroq, hozircha bu versiyani qoʻllab-quvvatlovchi qatʼiy dalillar yoʻq. Shuning uchun Coxanning barcha soʻzlarini mutlaq haqiqat deb hisoblash mumkin emas va bir vaqtning oʻzida uning harakatlarini rejalashtirilgan PR kampaniyasining bir qismi deb hisoblash ham mumkin emas.
Ehtimol, haqiqiy yutuq AI ning oʻz qobiliyatida sodir boʻlmoqda. AI oʻzi AI rivojlanishini tezlashtira boshlaydi. Agar model yaxshiroq kod yozish, tadqiqotlar oʻtkazish va keyingi avlod AI tizimlarini yaratishda muhandislarga yordam berish qobiliyatiga ega boʻlsa, AI rivojlanish surʼati faqat odamlarning samaradorligiga bogʻliq boʻlmaydi.
Bu aynan rekursiv oʻz-oʻzini takomillashtirish muammosidir. Hozircha...
