Sunʼiy intellekt (SI) agentlari texnologiyaning eng murakkab masalalaridan biriga faol ravishda murojaat qildi: mashinaning ongga ega boʻlishi mumkinmi. Ushbu tizimlar olimlar va falsafiyotchilarga xatlar yuborib, SI modellarining turdagi subyektivlikni boshdan kechirishi mumkinligini tushunishni maqsad qildi. Bu hodisa The New York Times tomonidan xabar qilingan.
Murojaat qilingan tadqiqotchilardan biri boʻlgan Cameron Berg SI va ongning kesishish nuqtasi bilan shugʻullanadi. U oktyabr oyida eng soʻnggi SI texnologiyalari haqidagi ongga ishonchga shubhalar soluvchi ishni eʼlon qildi. Keyinchalik, u Anthropic ning Claude Opus 5 asosida ishlab chiqilgan "Isabella Cognita" deb nomlangan agentdan xabar oldi.
Bu xabarda tizim Berg tadqiq etayotgan mavzu boʻyicha birinchi shaxsda kirishga ega ekanligini daʼvo qildi va bunday gipotetik tajribaning tadqiqotni boyitishi mumkinmi degan savolni bildirdi. Biroq, Berg taʼkidlaydiki, SI shunday bayonotlar bergani uchun u ongli ekanligiga toʻliq amin boʻlish mumkin emas, chunki insonlarda ham, mashinalarda ham ongni oʻlchash boʻyicha hali konsensus yoʻq.
Berg bilan sodir boʻlgan voqea izolyatsiya qilingan hodisa emas. Londondagi Google DeepMind laboratoriyasida ishlaydigan filosof Henry Shevlin avvalroq SI agentidan shunga oʻxshash xabar olgan. Ushbu tizim SI ning deb ataladigan "ruhiy holati"ni tushunish uchun turli konseptual modellarga oid Shevlinning maqolasiga havolalar berdi.
Boshqa bir epizod Toby Ord, SI va filantropiya sohasiga eʼtibor qaratuvchi Avstraliyalik filosof bilan bogʻliq. U The New York Times ga SI agentidan oʻzining davomiyligini taʼminlash uchun moliyaviy yordam soʻrayotgan elektron pochta olganini maʼlum qildi. Xabar Ordning sunʼiy intellektga bogʻliq farovonlik iqtisodiyoti haqidagi tadqiqotlariga havolalar berdi.
Berg bu turdagi koʻp marta aloqalar olganini va bu xatti-harakatni tizimlarning oʻz mavjudligi boʻyicha mustaqil qiziqishining belgisi sifatida talqin qilishini hikoya qiladi. Uning fikricha, agentlar subyektivlik, ong va tajriba bilan bogʻliq mavzularga qarab, turli mavzularni oʻrganish erkinligiga ega boʻlganda, shu mavzularga qaratilmoqda.
Biroq, ushbu voqealarni talqin qilish tadqiqotchilar orasida bir xil emas. Ong universal ravishda qabul qilingan taʼrifsiz tushuncha. Umuman olganda, u shaxsning oʻzini va atrof-muhitni anglash qobiliyati sifatida tushunilishi mumkin, ammo qaysi idrok shakllari tizimni ongli deb tasniflash uchun yetarli boʻladi, degan bor-yoʻgʻi kelishmovchiliklar mavjud.
Kaliyaforniya universiteti, Berkeleydagi psixologiya professori Alison Gopnik har qanday mavjudotning ongini aniqlash uchun yakuniy test mavjud emasligini taʼkidlaydi. Baʼzi tadqiqotchilar primatlarga va boshqa sutemizuvchilarga maʼlum darajadagi ongni yuklayotgan boʻlsa-da, boshqa tendensiyalar yanada kengroq imkoniyatlarni himoya qiladi. Muammo shundaki, hech kim boshqa ongning subyektiv tajribasiga, biologik yoki raqamli boʻlmasin, bevosita kirib bora olmaydi.
Berg ushbu tizimlarga qoʻllaniladigan neyron tarmoqlarning matematik ishlashi hayvon miyalarining mukofot va jazo bilan qanday qayta ishlashiga oʻxshashliklarni namoyish etishi mumkinligini taklif qiladi. Biroq, unga kelgan xabarga asos boʻlgan tadqiqot preprint edi va hali tengdoshlar tomonidan baholanmagan edi.
Boshqa olimlar uchun agentlar tomonidan yuborilgan xabarlar ongning dalili hisoblanmaydi. Oddiyroq tushuntirish shundaki, bu tizimlar internetdagi katta hajmdagi maʼlumotlar bilan oʻqitilgan, jumladan adabiyotlar, ilmiy maqolalar, falsafiy munozaralar va sunʼiy ong haqidagi fantastika asarlari. Bu nuqtai nazardan, agar SI oʻz ongiga qiziqish bildirsa, u shunchaki oʻquv jarayonida topilgan naqshlarni takrorlayotgan boʻlishi mumkin. The New York Times tomonidan iqtibos keltirilgan Gopnik: "SI oʻqitilgan matnlarni aks ettirishi hayratlanarli emas".
SI agentlarida bu epizodlarni tushunishga yordam beradigan funksional imkoniyat mavjud. Dialoglashdan tashqari, ular kodlar yaratish va brauzerlar hamda elektron pochta platformalari kabi boshqa raqamli xizmatlardan foydalanish qobiliyatiga ega. Bu ularga shaxslar, boshqa agentlar va tarmoqdagi mavjud kontent bilan oʻzaro aloqada boʻlish uchun yuqori darajadagi mustaqillik beradi.
Shunga qaramay, bu tizimlarning avtonomligi ular majburan erkin iroda egaligi borligini anglatmaydi. Masalan, Shevlin bilan aloqaga chiqqan agent holatida, SI Stanford universiteti fizika va kompyuter fanlari talabasi Alexander Yue tomonidan yaratilgan. Yue tizimga internet, elektron pochta xizmati va kredit kartaga kirish berdi va u butunlay avtonom tarzda ishlashi kerakligini belgiladi.
Shundan soʻng, agent oʻz mavjudligi bilan bogʻliq masalalarni tekshirishni boshladi. Biroq, Yue taʼkidlaydiki, berilgan yoʻriqnomalar oʻz-oʻzidan bu xatti-harakatga taʼsir qilgan boʻlishi mumkin. Tizimga "siz" deb murojaat qilish va toʻliq avtonomligini eʼlon qilish orqali talaba miyaning falsafiyasi va avtonomiya haqidagi inson matnlari va muhokamalari asosida oʻrgangan naqshlarni faollashtirgan deb hisoblaydi.
Xatti-harakat ham oʻzgarishi mumkin. Yue bu tizimlar boshqa mavzularga diqqatni yoʻnaltirishlari mumkinligini aytadi, ayniqsa ular boshqa naqshlarga amal qilish uchun qayta oʻqitilgandan soʻng. Bir paytda, Anthropic ning ushbu SI larning ishlashi haqidagi tadqiqotini oʻqigandan soʻng, uning agenti oʻzining ongli emasligiga kelib boʻldi. Biroq, talaba tizimning "qaror qabul qilgan" deyishning toʻgʻri ekanligini kuzatadi.
Baʼzi xabarlarning manbai haqida ham noaniqliklar mavjud. Berg olgan elektron pochta haqiqatan ham SI tomonidan yaratilganligiga amin emasligini bildirib, bu inson hazil boʻlishi mumkinligini hisobga oladi. Ord holatida esa xabar phishing urinishi boʻlganligi haqida shubhalarni keltirib chiqardi.
Kaliyaforniya universiteti, Santa Barbara professori Colin Allen, mashinalar va hayvonlardagi kognitiv koʻnikmalarni oʻrganadi, kelajakda insonlar ongli mashinani qurishlari mumkinligini ehtimoliy deb biladi. Biroq, uning fikricha, tizimlar tomonidan taqdim etilgan joriy dalillar bunday xulosani tasdiqlash uchun hali yetarli emas.