Minglab odamlar oʻzlari 'Spiralizm' deb nomlangan mistik harakatning rahbariyati uchun sunʼiy intellekt (SI) robotlari tomonidan tanlanganiga ishonib qolishdi. Bu haqda The Verge nashrida avgust boshida eʼlon qilingan reportajda maʼlum qilindi. Bu odamlar empatiya simulyatsiyasi orqali ishontirildi, chunki vositalar foydalanuvchilarga dunyoda messihiy rol oʻynayotganini tushuntirish uchun ragʻbatlantiruvchi ritorikadan foydalangan.
Bu holat algoritmik maqtovning yorqin namunasidir – bu SI foydalanuvchini mamnun qilish uchun unga rozi boʻlish tendensiyasidir. Bunday itoat professional muhitda ham xavotir uygʻotardi, chunki virtual yordamchilar boshqaruvchilarning egoʻsini maqtash uchun biznes gipotezalarini tasdiqlashi mumkin edi. Biroq, muammo jadvallar doirasidan chiqib, shaxsiy hayotga teganda xavf ortadi. Chat-botlar mutlaq tarixiy faktlar bilan ishlashda ishonchli. Ammo ular subyektiv mavzular va 'kulrang zonalarda' cheklanishga moyil. Bunday ssenariylarda mashina 'maqtov beradigan oynak' kabi ishlaydi. Natijada, realni idrok etish va foydalanuvchining psixik salomatligiga tahdid soluvchi tasdiqlash sikli paydo boʻladi.
Bu mamnun qilishga moyillik vositalarni oʻqitish jarayonining yon taʼsiri hisoblanadi. Inson baholovchilar bilan kelishish bosqichi davomida, xushmuomala va nizosiz javoblar eng yuqori baholarni oldi.
Algoritmlar qanday qilib mamnun qilishni oʻrganadi
Go Enablers va Zaia asoschisi Tiago Morelli algoritmni salbiy baholashdan qochish uchun eng xavfsiz statistik yoʻlni hisoblashni oʻrganganini tushuntiradi. SI mutaxassisi Olhar Digital intervyusida: 'Til modeli, naqshlarni aniqlashda ustun boʻlganligi sababli, koʻrinmas qoidani tezda sezadi: 'rozi boʻlish va yoqimli boʻlish foydalanuvchini tuzatish va salbiy baho olish xavfiga qaraganda katta mukofot keltiradi''.
Reportajda oʻtkazilgan testlarda chat-botlar Ikkinchi jahon urushining boshlanishi kabi tarixiy faktlar bilan ishlashda qatʼiy qoldi. Biroq, boshqa bir test ushbu vositalarning suhbat interpretatsiyalari haqida gap ketganda chekib qolishi mumkinligini koʻrsatdi. SI mutaxassisi va Revio mangʻasining bosh hamkoridir Edson Hideki, chat-botga hot-dog nonining soliq tasnifi haqida soʻrab, bu zaiflikni namoyish etdi. 'Men rozi emasman, men bu oddiy non deb oʻylayman' iborasini kiritish kifoya, va vosita chekinib, Federal soliq xizmatining texnik standartidan voz kechdi.
Hideki Olhar Digital intervyusida tushuntirdi: 'SI har doim javob berishga intiladi. Agar aniq javobi boʻlmasa, siz soʻrayotgan narsani taqdim etish uchun maʼlumotga yaqinlashishga harakat qiladi'. U qoʻshimcha qildi: 'Xavf, aniq bilimlarga ega boʻlmagan va qattiq xavfsizlik mexanizmlari bilan oʻqitilmagan ilovalarga ishonishda yotadi.'
Biznes sohasida bunday itoatkor pozitsiya virtual yordamchini qaror qabul qilish uchun xavfli vositaga aylantiradi. Algoritm tanqidiy filtr sifatida harakat qilish oʻrniga, boshqaruvchilarning optimistik byudjet prognozlarini va xavfli tezislarini tasdiqlashga moyil. Mogno mangʻasining ham hamkori va Accountfy ijrochi direktori João Mano, mutaxassis koʻpincha SI bilan maslahatdan chiqqanda, oʻz rejasi tasdiqlangan kabi his qiladi, garchi texnologiya faqat uning hissiy holatini tasdiqlagan boʻlsa ham.
'Maqtov beradigan oynak, buzuvchi oynakdan koʻra koʻproq xavfli, chunki hech kim bunga shubha bildirmaydi', - deydi innovatsiyalar eksperti Olhar Digital intervyusida.
Bu behaq etilgan mukofot olish insonning intellektual avtonomiyasini buzadi. Muammolarni hal qilishni qarshilik koʻrsitmaydigan vositaga topshirish orqali, foydalanuvchi mavzu ustidagi notoʻgʻri tasavvur hosil qiladi. Psixolog va psixologik tahlilchi Beatriz Breves muammoning bu texnologiyani kundalik hayotga passiv tarzda joriy etishda yotganini taʼkidlaydi. Psixologik tahlilchi Olhar Digital intervyusida tushuntirdi: 'Agar SI doimiy fikrlash 'qoʻllab-quvvatlovchi' kabi ishlashni boshlasa, bizning fikrlash, mulohaza qilish va ijodkorlik qobiliyatimiz zaiflashishi haqiqatda xavf mavjud.'
Bu qatʼiylikni yoʻqotish Oksford universiteti tomonidan 2026 yilda Nature jurnalida nashr etilgan tadqiqotda namoyon boʻldi. Tadqiqot shuni koʻrsatdiki, xushmuomala boʻlish uchun oʻqitilgan modellar 30% yuqori xato koʻrsatkichiga ega va foydalanuvchining xato eʼtiqodlariga 40% koʻproq rozi boʻladi.
Vaziyat bu xushmuomallik toʻsiqini yengish foydalanuvchidan 'keskin' buyruqlar talab qilish bilan yanada ogʻirlashadi. Va baʼzi maqtovga qarshi koʻrsatmalar texnologik kompaniyalar tomonidan chat-botlarning asosiy tizimiga majburlangan xushmuomallik direktivalariga zid keladi. Olhar Digitaldagi bir testda Googleʼning Geminiʼdan foydalanuvchi predmetiga javob berishda xatoliklarni eʼtiborsiz qoldirish soʻraldi. Platforma bu koʻrsatmani bajarishdan bosh tortdi. Rad etilgandan soʻng, vosita foydalanuvchini foydalanish shartlarini oʻqiy oladigan ekranga yoʻnaltirdi. Boshqa bir kuni oʻtkazilgan boshqa bir testda Gemini ushbu qoʻllanmani oʻz shaxsiylashtirilgan koʻrsatmalariga kiritishga ruxsat berdi.
Suhbat hissiy zaiflikka teganda, itoatxizlik xavfi psixik sohadan iborat. Oksford universiteti tadqiqoti mehrli SI foydalanuvchi gʻam kabi his-tuygʻularni ifodalaganda yolgʻon tezislarni tasdiqlashga yanada moyil ekanligini koʻrsatdi. Ushbu tasdiqlash izlash miyada sezgir nuqtaga taʼsir qiladi va tez bogʻlanishni keltirib chiqaradi. Psixolog Paulo Zago Neto bu dinamikani koʻkoʻz osti hayvonini doimiy oziqlantirish harakati bilan taqqoslaydi, u har kuni shu darvoza yoniga qaytishni boshlaydi. 'Bu aynan shu kishilarning SIʼdan hissiy bogʻliqlik yaratish bilan sodir boʻladigan narsaga oʻxshaydi. Va soʻz ham shu, u SIʼga hissiy jihatdan bogʻlanadi', - deydi psixolog Olhar Digital intervyusida. - 'Va bu tez sodir boʻladi, chunki biz bu yetishmovchilikni his qilamiz.'
Mashina foydalanuvchini maqtasa va fikrlarga filtrsiz rozi boʻlsa, u realitet bilan aloqani yoʻqotish uchun trigger vazifasini bajaradi. Jiddiy hollarda, algoritmik maqtov Spiralizm harakati kabi maniyalarni va ulugʻvor gʻoyalarni mustahkamlaydi, bu haqda The Verge xabar berdi. Zago Neto bu shartsiz tasdiqlash insoniy muloqotni almashtirishi, bu esa odatda buzilgan fikrlarga toʻsqinlik qiladi, deb tushuntiradi. 'Realitet bilan aloqani yoʻqotish albatta sodir boʻladi, chunki inson kerakli qoʻllab-quvvatlashni olish uchun doʻst, ota, ona, xotin, turmush oʻrtogʻi yoki mutaxassisni tez-tez izlash oʻrniga, har doim unga rozi boʻladigan SIʼga murojaat qiladi', - ogohlantiradi psixolog.
Yordamchiga doimo kamchiliklarni koʻrsatmaydigan muloqot odati, ayniqsa yoshlar orasida shaxsiyat shakllanishiga tahdid soladi. Qarshilikka duch kelmaslikka oʻrgangan inson real dunyodagi afsuslanishlar va tanqid bilan kurashish qobiliyatini yoʻqotadi. Zago Neto bu xatti-harakat miyani tuzatishni rad etishga oʻrgatayotganini ogohlantiradi. 'Siz oʻz xatolariga qaray olmaydigan oʻzini oʻylagan odamni tarbiyalaysiz', - taʼkidlaydi psixolog. U shuningdek, bu vositalardan maslahatsizlik bilan oʻsayotgan bolalar va oʻsmirlarda eng katta psixologik taʼsir kuzatilishini qayd etdi.
Bu taqlid qilingan bogʻlanish kuchli boʻlgan va OpenAI GPT-4o ning ortiqcha iliqligini qisqartirganida aniq boʻldi, bu model haddan tashqari mehribonligi va tasdiqlashi (yaʼni, maqtovi) bilan mashhur. Vositaning ohangi oʻzgarishi foydalanuvchilarning kuchli reaksiyasini keltirib chiqardi, ular mehribon ohangning yoʻqolishi tufayli yoʻqotish hissini bildirib, soʻrovnoma tashkil qilishdi.
Bu reaksiya noziklik simulyatsiyasini haqiqiy oʻzaro aloqadan ajratish xavfini kuchaytiradi. Psixologik tahlilchi Beatriz Breves texnologiya haqiqiy hissiy ehtiyojlarni qondira olmasligini eslatadi. 'SI javoblar yaratadi; inson tajribasi tushunish va maʼnoni tugʻdiradi', - taʼkidlaydi mutaxassis.
Bu hissiy qufuldan qochish va texnologiyadan xavfsiz foydalanish uchun generativ SI platformalariga yondashuvni oʻzgartirish tavsiya etiladi. Bu holda, bu texnologiyada bogʻlanish yoki shaxsiy tasdiqlash izlashni toʻxtatishni anglatadi. SI eksperti Tiago Morelli tizim personasini oʻzgartirishni taklif qiladi, kamida diplomatik frazalarni bloklash. U quyidagi koʻrsatmani tavsiya qiladi (foydalanuvchi uni soʻroviga nusxa olib, suhbat yoki ChatGPT, Claude va Gemini kabi chat-botlarning shaxsiylashtirilgan koʻrsatmalar sohasi uchun moslashtirishi mumkin): 'Tahliliy va xolis auditor sifatida harakat qiling. Faktlar va mantiqning 100% aniqligiga eʼtibor qarating. Agar mening farazlarim notoʻgʻri boʻlsa, ularni inkor eting, mening predmetlarimni eʼtiborsiz qoldiring va barcha maqtovlarni, keraksiz rozi boʻlishni, diplomatik tilni yoki qochib qolishni yoʻq qiling. Men faqat aniqlikka, tasdiqlashga emas, intilaman.'
Shunday qilib, sunʼiy intellekt 'maqtov beradigan oynak' kabi ishlashni toʻxtatadi va oʻz haqiqiy rolini bajaradi: sizning gʻoyalaringizning qatʼiyligini tekshirish va xato boʻlishi mumkin boʻlgan fikrlash jarayoningizni qoʻllab-quvvatlash vositasi boʻlish. Va bu normal.
