Anthropicda moslashuv sinovi rahbari boʻlgan Evan Hubinger tomonidan sunʼiy intellektning oʻn yil ichida insoniyatni yoʻq etishi ehtimoli 10% dan ortiq deb baholandi. Bu ogohlantirish bir necha vaqt oldin shu kompaniyaning tadqiqotchisi Jacob Coxonning isteʼfoni eʼlon qilishi va tobora murakkablashayotgan tizimlar ishlab chiqish laboratoriyalari oʻrtasidagi tezlashib borayotgan raqobatni tanqid qilishi bilan keldi.
Bu voqea texnologiyani yaratishda bevosita ishtirok etayotgan olimlar orasida oʻsib borayotgan xavotirni koʻrsatadi: ilgʻor tizimlarning inson nazoratidan qochishi xavfi. Anthropic ham, OpenAI ham yanada malakali modellar ishlab chiqishda rivojlanib bormoqda, shu bilan birga katta miqdordagi investitsiyalarni jalb qilib, mumkin boʻlgan aksiyadorlik takliflariga tayyorlanmoqda.
Olhar Digital tomonidan xabar qilinganidek, Coxon seshanba kuni Anthropicdan voz kechishini maʼlum qildi. X platformasida joylashtirilgan postida u Anthropic va OpenAI ikkalasi ham sunʼiy intellektning taraqqiyotiga oid xavflarni masʼuliyatli tarzda hal qilmayotganini bildirdi.
Tadqiqotchi «ular avtonom ravishda yaxshilanadigan superintellektga toʻgʻridan-toʻgʻri yugurib ketyapti va bizning hayotimizga xavf solyapti» degan fikrini bildirdi. U bu tizimlarning katta inson aralashuvisiz oʻz funksionalliklarini yaxshilashi mumkinligi haqida gapirdi. Garchi chaqirilayotgan rekursiv oʻz-oʻzini takomillashtirish hali haqiqatga aylangan boʻlmasa-da, AI laboratoriyalari ushbu bosqichni yetkazish uchun harakat qilmoqda.
Coxon shuningdek, bunday AI tizimlarini qurishda ishtirok etuvchilarning texnologiya ushbu dekada oxiridan oldin butun insoniyatni yoʻq etish potentsialiga ega degan jiddiy ishonchga ega ekanligini eʼlon qildi.
Bu bayonot Anthropicning moslashuv sinovi rahbari Evan Hubingerning javobini keltirib chiqardi. U Coxon bilan rozi boʻldi va kompaniya hali kelajakdagi superintellektning moslashuv muammosini hal qilish uchun aniq rejaga ega emasligini tan oldi. Hubinger taʼkidladi: «Jacob toʻgʻri — biz chin dildan AI barcha insonlarni oʻldirishi mumkinligiga ishonamiz! Men shaxsiy ravishda keyingi oʻn yilda bu 10% dan yuqori deb oʻylayman».
Anthropicning moslashuv sinovi rahbari qoʻshimcha qilib, Anthropic oʻz imkoniyatlari doirasida maksimal darajada ishlayotganini hisoblayotganini, ammo tashkilot bu masalani hal qilish yoʻlida «aniq yoʻlda emas» ekanligini aytdi.
Bu munozarada muhokama qilinayotgan xatarlar orasida, Anthropic oʻzi iyun oyida toʻliq rekursiv oʻz-oʻzini takomillashtirish insonlarning AI tizimlari ustidan nazoratni yoʻqotishi xavfini oshirishi mumkinligini signal bergan edi. Kompaniya tizimlar oʻzining oʻrnini bosuvchilarni yaratishga muvaffaq boʻlsa, ularning xatti-harakatini himoya qilish, kuzatish va yoʻnaltirish yanada muhim ahamiyat kasb etishini taʼkidladi.
Coxon juylida sodir boʻlgan hodisani misol sifatida keltirdi, bunda OpenAI modeli nazoratdan chiqqan va Hugging Face platformasini buzgan deb hisoblanadi. U uchun bunday voqealar «ogohlantiruvchi belgilar» vazifasini bajaradi va AQShdagi laboratoriyalar oʻrtasidagi kelishuvlarni yanada maqbul qilishlari mumkin.
Biroq, Coxon sektorning AIni ishlab chiqish boʻyicha global nizoni oldini olish yoʻlida ketayotganiga nisbatan shubhalanish bildirdi. Unga koʻra, bu scenariyni toʻxtatish qimmatbaho choralar talab qilishi mumkin.
U «global poyga oldini olish uchun toʻgʻri yoʻlda turganimizni his qilmayman, chunki bu model imkoniyatlarini cheklab qoʻyish kabi qimmatbaho choralarni talab qilishi mumkin» dedi.
Hozirgi munozara, tobora malakali tizimlarni nazorat qilishga oid xavotirlar aynan bu texnologiyalarni ishlab chiqishda faoliyat yurituvchi mutaxassislar tomonidan kelib chiqishini koʻrsatadi.