Sunʼiy intellektda mamnun qilish xavfi: Nima uchun AI notoʻgʻri maʼlumot berishi mumkin

Oʻquv yoki ish vazifalarini bajarish uchun sunʼiy intellekt (SI) dan foydalanish oddiy oʻrganishdan tashqariga chiqadigan muammoni keltirib chiqardi. Inson mashina tomonidan yaratilgan matn yoki loyihani oʻzining oʻziga tegishli deb taqdim etganda, u tez va oson gʻalabaga erishadi. Neyroshodchi Alvaro Machado Diasning fikricha, bunday dinamika yolgʻon gapirish uchun ragʻbatlantirishlarni shakllantiradi.

Biroq, bu hodisaning taʼsiri axloqiy masalalardan cheklanmaydi. Olhar Digital News dasturi uchun maqolasida mutaxassis ogohlantiradiki, aqliy zoʻriqishdan qochishning osonligi vaqt oʻtishi bilan odamlarning axloqiy chegaralarini zaiflashtiradi. Bundan tashqari, texnologiyalarga doimiy bogʻliqlik murakkab qarorlar qabul qilish qobiliyatining atrofiyasi va mehnat bozoridagi tengsizlikni kuchaytiradi.

Neyroshodchiga koʻra, SI ning taʼlim sohasidagi inqirozi sinf xonasidan tashqarida bajarilgan ishlarga asoslangan baholash usullari bilan bogʻliq. Vazifalarni avtomatlashtirishga va ularni haqiqiy harakatlarsiz topshirishga imkon beradigan texnologiya talabaning rivojlanishi oʻrniga aldovga mukofot beradi.

Doktor Alvaro Machado Dias tushuntiradi: «Muammo faqat harakatni tejashdan iborat emas. Bu yolgʻon gapirish uchun ragʻbatlantirishlarni yaratadi. Biz yolgʻon gapirish foydali boʻlgan muhit yaratganimizda, biz kelajakdagi yolgʻon gapirish uchun axloqiy toʻsiqni pasaytirib yuboramiz. Shu tariqa, biz kamroq axloqli odamlarni tarbiyalaymiz».

Aqliy ishni mashinaga yuklash odati (kognitiv yukni chiqarish - cognitive offloading) miyaga tanlab taʼsir qiladi. Oddiy kundalik tanlovlar saqlanib qoladi, ammo murakkab muammolarni hal qilish qobiliyati yomonlashishni boshlaydi.

Neyroshodchi taʼkidlaydi: «Tez va intuitiv qarorlar deyarli zarar koʻrmaydi. Muammo variantlarni baholash, mental modellar qurish va imkoniyatlarni tasavvur qilishni talab qiladigan murakkab qarorlarda yotadi. Aynan shu yerda kognitiv yukni chiqarish bizning qarorlarimiz sifatini pasaytiradi».

Qochish yoʻllarini izlash miyaning energiya tejash biologik tendensiyasidir. Biroq, aqliy sürtilish va noqulaylikdan doimiy qochish intellektual sogʻliq va farovonlikka salbiy taʼsir koʻrsatadi.

Unifesp professori shuni koʻrsatadi: «Siz harakatlardan qochsangiz, qisqa muddatda bu ajoyib tuyuladi, chunki siz charchoq his qilmagansiz. Ammo oʻrta muddatda bu intellektual quvvat yoʻqotilishi hayotiy kuch yoʻqotilishi sifatida seziladi. Va hayotiy kuch bevosita farovonlik bilan bogʻliq».

Paradoks shundaki, bir zumdagi noqulaylikni oldini oladigan narsa oxir-oqibat uzoq muddatli norozilikka sabab boʻladi.

Shaxs uchun kognitiv va axloqiy oqibatlardan tashqari, texnologiyalar kasblarning dinamikasini oʻzgartiradi. Qoʻngʻiroq markazlari kabi rutin va operatsion vazifalarda algoritmlar yangi xodimlar samaradorligini oshiradi va past darajadagi koʻnikmalarni standartlashtiradi. Neyroshodchi tahlil qiladi: «Natijalar SI ning bazaviy darajada turganlarning samaradorligini sezilarli darajada oshirayotganini, shu bilan birga mutaxassislarning samaradorligi biroz yaxshilanishini koʻrsatadi. Yaʼni, u kompetensiyalarni tenglashtiradi».

Protsesslarni, odamlarni va strategiyalarni boshqarishni talab qiladigan murakkab funksiyalarda vaziyat oʻzgaradi. Ushbu koʻnikmalarga allaqachon ega boʻlganlar SI ni kuchaytiruvchi sifatida ishlatib, operatsion xodimlarga nisbatan masofani oshiradilar. Mutaxassis shunday deydi: «Bu holatlarda asimmetriya sezilarli darajada ortadi».

Doktor Alvaro Machado Dias xulosa qiladi: «SI ni oʻz ishiga integratsiya qila oladiganlar operatsion jarayonlarda qolganlarga qaraganda ancha yuqori samaradorlik va real hayotni transformatsiya qilish qobiliyatiga ega boʻladi. Shuning uchun SI imkoniyatlarni demokratlashtiradi, lekin tengsizlikni ham oshiradi».

Fikrni topshirish tendensiyasi kognitiv yukni chiqarishning rivojlanishidir. Bloknotlar va kalkulyatorlar kabi anʼanaviy vositalar maʼlumotlarni faqat statik tarzda saqlagan boʻlsa, generativ SI kontentni real vaqt rejimida talqin qiladi, yaratadi va tuzadi. Bu «Google effekti»ni kuchaytiradi, bu esa miya maʼlumotlar bir bosqichlik bosish masofasida mavjudligini bilib, maʼlumotlarni saqlashni toʻxtatishi hodisasidir.

Passiv saqlashdan fikrni topshirishga oʻtish intellektual avtonomiya uchun xavflarni olib keladi. Haqiqiy oʻqish uchun zarur boʻlgan aqliy ishdan qochish natijasida inson tayyor natijalarning oddiy kuratori boʻlib qoladi, bu esa sintez va muammolarni hal qilish qobiliyatlarini atrofiy holatga keltiradi.

Psixolog va psixologik tahlilchi Beatriz Breves Olhar Digital intervyusida ogohlantiradi: «Agar SI doimiy 'qoʻllab-quvvatlovchi' sifatida faoliyat yuritishni boshlasa, bizning fikrlash, ishlab chiqish va ijod qilish qobiliyatimiz zaiflashish xavfi mavjud».

Bunday xatti-harakat SI platformalarining darhol mukofot tizimi tomonidan qoʻllab-quvvatlanadi. Ijtimoiy tarmoqlarni aylantirish tasodifiy mukofotlardan foydalanishiga qaraganda, chat-botlar har bir soʻrovga aniq va tezkor javob beradi. Bu harakatsiz qoniqish miyani aqliy sürtilishning yoʻqligiga oʻrgatadi. Vaqt oʻtishi bilan bu darhol javoblarni izlash hayotiy kuch yoʻqotish va murakkab vazifalarda eng qisqa yoʻllardan foydalanish uchun zamin yaratadi.

Bu jarayon natijasi «fikrning algoritmlashtirilishi» deb ataladi, bunda aql mashina kabi qattiq tuzilishda fikrlashni boshlaydi. Doktor Alvaro Machado Dias Olhar Digital intervyusida shuni taʼkidlaydi: «Algoritmlardan fikrlashga yordam olishda tez-tez foydalanish natijasida sodir boʻladigan bir narsa: inson narsalarni bandlar qilib koʻrishni boshlaydi. U belgilangan roʻyxatlar odami boʻlib qoladi».

SI tomonidan yaratilgan kontent statistik oʻrtacha asosida qurilganligi sababli, bu texnologiyaga haddan tashqari bogʻliqlik asl ijodkorlikni cheklaydi va tanqidiy fikrlashni mustahkamlashga toʻsqinlik qiladi. Shunday qilib, generativ SI oldidagi eng katta muammo xatti-harakat xususiyatiga ega: samaradorlik ortishiga moyillik tufayli intellektual quvvatning atrofiyasi va axloqiy chegaralarning zaiflashishining oldini olish uchun aqliy sürtilishni saqlab qolish kerak.