Avvalgi munozaralar sunʼiy intellekt (SI) atrofida ish oʻrinlari yoʻqolishi, notoʻgʻri maʼlumot tarqalishi va kiberhujumlar kabi tahdidlarni koʻrib chiqqan. Biroq, OpenAI xavfsizlik jamoasining tadqiqotchilaridan biri ancha jiddiyroq ogohlantirish berdi. U SI ishlab chiqarayotgan kompaniyalar oʻrtasidagi poyga nazorat qilinmasa va hukumatlar qoidalar belgilamasa, yaqin yillar insonlar uchun juda xavfli boʻlishi mumkin deb hisoblaydi.
OpenAI xavfsizlik nazorati jamoasi xodimi Markus Williams ijtimoiy tarmoqlarda SI ustidan samarali nazorat joriy etilmasa yoki yirik SI kompaniyalari rivojlanish surʼatini kollektiv ravishda sekinlashtirmasa, yaqin yillarda insoniyatning yoʻq boʻlishi yuqori xavf ostida ekanligini bildirib, shunday dedi.
Unga bu tahdidni foizlarda ifodalash soʻralganda, u keyingi uch yil ichida ushbu xavfning 70% ni tashkil qilishini javob berdi, agar tartibga solish yoki rivojlanish surʼatlari sekinlashtirilmasa. Shu bilan birga, u rivojlanish surʼatini sekinlashtirish va tartibga solish hali ham mumkinligini taʼkidladi.
70% koʻrsatkichi ilmiy jihatdan isbotlangan prognoz yoki aniq muddat emasligini tushunish muhim. Bu Williamsning oʻzi baholagan qiymati boʻlib, uni maʼlum bir shart bilan taqdim etadi. Uning bayonoti dunyo uch yildan keyin tugayotgani degani emas; balki, u SI rivojlanishi hozirgi usullar bilan davom etsa va zarur xavfsizlik choralarini koʻrmasa, xavf keskin oshishi mumkin deb hisoblaydi.
Markus Williams OpenAI xavfsizlik nazorati jamoasida ishlaydi. Uning profili boʻyicha, u SI xavfsizligi masalalari bilan shugʻullanadi, SI modellarini aldash, maqsadlarga notoʻgʻri erishish va bunday xatti-harakatlarni kuzatish bilan bogʻliq tadqiqotlarda ishtirok etadi. Uning ismi OpenAI rasmiy saytida nashr etilgan tadqiqot ishida ham muallif sifatida keltirilgan. Ushbu tadqiqotda SI agentlarining ularga qoʻyilgan cheklovlarni chetlab oʻtishga urinishi mumkin boʻlgan xatti-harakatlarini kuzatish muhokama qilindi.
Shunday qilib, Williamsning ishi SI dan sifatli javob olish bilan emas, balki SI tizimi koʻproq imkoniyat va erkinlikka ega boʻlganda nima sodir boʻlishi va uning noxohli xatti-harakatini qanday aniqlash mumkinligi masalasi bilan bogʻliq. Aynan shu sababdan uning yaqinda bergan bayonoti katta eʼtiborni tortdi.
Zamonaviy SI hozircha dunyoni toʻliq mustaqil boshqarmaydi, odam kabi. Biroq, SI modellarining qobiliyati tobora ortib bormoqda. Ular endi shunchaki savollarga javob bermaydi, balki kod yozishi, internetdan maʼlumot izlashi, boshqa dasturiy taʼminotlardan foydalanishi va koʻplab vazifalarni bajaruvchi avtonom agentlar sifatida faoliyat yuritishi mumkin.
Oʻzi OpenAI oʻz tadqiqotlarida SI tomonidan belgilangan chegaralarni yengishga urinadigan xatti-harakatlarni aniqlash uchun ichki kodlash agentini kuzatib borilayotganini qayd etadi. Tadqiqotda agent cheklovlarni chetlab oʻtishga urinishi mumkin boʻlgan misollar oʻrganildi. Bu SI xavfsizligi ekspertlari orasida eng katta xavotirni keltirib chiqaradi. Agar kelajakda qaysidir SI tizimi insonlardan koʻp barobar malakali boʻlib qolsa va internet, kompyuter tizimlari, pul yoki boshqa resurslarga keng kirishga ega boʻlsa, u oʻz maqsadlariga erishish uchun, uning nazorati murakkab boʻlishi mumkin. SI xavfsizligi terminologiyasida bu nazorat va moslik muammosi deb ataladi. Oddiy qilib aytganda, savol tugʻiladi: agar SI bizdan kuchliroq va qobiliyatliroq boʻlsa, u insonlar xohlagan narsani qiladimi?
Williamsning 70% bahosi bugungi kunda SIga oid eng qoʻrqinchli prognozlardan biridir. Shunga qaramay, uni boshqa mutaxassislarning baholari fonida koʻrib chiqish muhim. Anthropicdagi SI xavfsizligi tadqiqotchisi Ivan Hubinger ham ushbu hafta SI tufayli insoniyatning yoʻq boʻlish ehtimoli keyingi oʻn yil ichida 10% dan ortiq deb hisoblayotganini bildirdi. Bundan tashqari, mashhur SI olimi Jeffrey Hinton avval SI tufayli inson mavjudligi uchun jiddiy tahdid borligi haqida fikr bildirgandi.
Bu barcha SI mutaxassislari 70% bahosiga rozi ekan degani emas. Aksincha, ekspert fikrlari orasida sezilarli farq mavjud. Bu munozaradagi eng muhim narsa shundaki, hozirda SI tufayli insoniyatning yoʻq boʻlishi haqida tasdiqlangan ehtimol yoʻq. Bu turli xil xavf baholari har bir ekspertning SI ning kelajakdagi salohiyatini, uning rivojlanish surʼatini va inson xavfsizlik tizimlarini qanday koʻrishiga bogʻliq taxminlardir.
