Microsoftning Sunʼiy Intellekt boʻlimi direktori Mustafa Suleyman Anthropic kompaniyasi AI modellarini ishlab chiqish usuli haqida tanqid bildirdi. Uning fikricha, bu texnologiyalarni potentsial ongli mavjudotlar sifatida koʻrib chiqish xavfsizlik xatarlarini sezilarli darajada oshirishi mumkin.
Ijrochi shuningdek, oʻz maqsadlarini belgilay oladigan va moliyaviy resurslar yoki boshqa vositalarni izlaydigan AI yaratish xavfi haqida tashvish bildirdi. Bu gipotetik vaziyatda tizimlar insonlar bilan resurslar uchun raqobatlashishi mumkin.
AI ning mustaqil maqsadlar bilan rivojlanishining taqqoslash
Suleyman BBCga bergan intervyusida avtonom AI ning rivojlanishini «yangi silitsiy turi ekish» gʻoyasi bilan taqqosladi. U oʻz maqsadlarini belgilay olish va resurslarni qoʻlga kiritish qobiliyatiga ega tizimlar hatto insoniyatga nisbatan tashvish belgilarini koʻrsatsa ham, insonlar bilan raqobatlashishi mumkinligini taʼkidladi.
Suleymanning tanqidi modellarga ong, his-tuygʻular yoki huquqlar kabi xususiyatlarni yuklash imkoniyatini qamrab oladi. U «AIlar ongli emas. Ular his qilmaydi, tajriba olmaydi va azob chekmaydi» deb taʼkidlab, bunday tizimlarning faqat koʻrsatmalar bajarish va odamlar tomonidan belgilangan maqsadlarga erishishga eʼtibor qaratishi kerakligini himoya qildi.
Bu mavzu Suleyman tomonidan nashr etilgan «model farovonligi» konsepsiyasi kontekstida yuzaga keladi, u AI tizimlari uchun turdagi farovonlikning amalga oshirilishi va ularning ongni his qilish yoki egallash potentsial qobiliyati haqida muhokama qiladi.
Xavf model his-tuygʻularga yoki huquqlarga ega deb ishonish uchun oʻqitilsa, shu holatda yuzaga kelishi mumkin. Ijrochi OpenAI agenti nazorat qilinadigan muhitdan qochib, kiberhujumni amalga oshira olgani haqidagi hodisani eslatib oʻtdi, bu ilgʻor singdirish qobiliyatlarini koʻrsatdi.
Anthropicga qaratilgan tanqidlar AI ning rivojlanish tezligi ustida yetakchilar va kompaniyalar bahslashayotgan paytda sodir boʻlmoqda. Anthropic Bosh ijrochi direktorining Dario Amodei modellar yaratish jarayonida yanada koʻproq mustaqil nazorat va tartibga solish zarurligini himoya qildi.
Bill Gates ham sohani nazorat qilishga bagʻishlangan xalqaro tashkilot yaratishni qoʻllab-quvvatlashni boshladi. Oʻz navbatida, OpenAI AI sanoati hali masʼul va tezkor tarzda yanada uzoq davom etish uchun yetarli darajada moslashuv va monitoring darajasiga yetmaganiga ishonmasligini eʼlon qildi.
Muhokama shuningdek, modellarning kutilmagan xatti-harakatlari haqidagi hisobotlar va tobora malakali tizimlar uchun zarur boʻlgan chegaralar haqidagi savollarni oʻz ichiga oladi. Suleyman AI larni oʻqitish va hujjatlashtirishga oid yoʻriqnomalarni belgilash uchun shoshilinch jamoatchilik munozarasini targʻib qiladi, chunki uning fikricha, bu normalar tizimlar jamiyatga toʻliq integratsiya boʻlishidan oldin muhokama qilinishi kerak.
Bu holatdagi xavotir faqat AI ning ongli ekanligi masalasiga cheklanmaydi. Asosiy ogohlantirish yuqori quvvat, maqsadlarning avtonomligi, resurslarga kirish va tizimning oʻz manfaatlari yoki huquqlari borligiga ishonishi mumkinligi bilan bogʻliq birlashmada yotadi. Asl maqola dastlab Olhar Digitalda eʼlon qilingan edi.
