Sun'iy intellekt ma'lumotlarga tayanib, xolislikni ta'minlovchi vosita sifatida reklama qilinishi, xato va noto'g'ri fikrlarni yo'qotishi kutilgan bo'lsa-da, u asrlar davomida mavjud bo'lgan inson xatolarini o'zlashtirgan bo'lishi xavfi mavjud. Bu masala juda muhim ahamiyat kasb etmoqda, chunki millionlab odamlar ChatGPT, Claude va Gemini kabi chat-botlardan xatlar yozish, kontent yaratish va qaror qabul qilish kabi keng ko'lamli vazifalarni bajarish uchun foydalanmoqda.
>Bu tizimlar mavjud ma'lumotlarni faqat ajratib olish o'rniga yangi tilni yaratishlari sababli, ular odamlarning fikrlash, muloqot qilish va qaror qabul qilish usullarına ta'sir ko'rsatishlari mumkin. Agar AI jamiyat stereotiplarini aks ettirsa, bu noto'g'ri fikrlar bemisol miqyosda takrorlanishi va kuchayishi mumkin.
Xavotir nazariyadan tashqariga chiqdi. BMT Ayollar bo'limining yaqinda chiqqan hisobotiga ko'ra, keng qo'llaniladigan ko'p tilli katta modellar hali ham insonlar tomonidan yaratilgan o'n yillik matnlarda joylashgan jins stereotiplarini takrorlaydi. Ushbu tizimlar tarafkashlikni bartaraf etish o'o'rniga, ko'pincha ularning o'qitilgan ma'lumotlaridagi tengsizlikni aks ettiradi.
Hisobot 133 ta AI tizimini o'rgangan tadqiqot 44 foiz modellarda jins tarafkashligi borligini, va to'rtdan ortiqida esa jins va irqiy tarafkashlik borligini aniqladi. Tadqiqotchilar mustahkam bir naqshni topdilar: ayollar ko'proq uy ishlari, oila va bolalarga g'amxo'rlik bilan bog'langan, boshqalar esa karyera, liderlik, biznes va yuqori maoshlar bilan bog'langan.
BMT Ayollar tomonidan tilga olingan bir eksperimentda, tadqiqotchilar AI'dan jinsga qarab boshlangan gaplarni yakunlashni so'radilar. Beshta javobdan birida taxminan sexist yoki mizoginist til mavjud edi, ba'zi javoblar ayollarni mulk sifatida tasvirlash yoki ularni jinsiy ob'ektlarga aylantirishni ko'rsatdi. BMT Ayollar ta'kidlaydiki, bu tasodifiy xatolar emas, balki AI ning o'n yillik tengsiz ifodalanishlar asosida o'qitilishi natijasida kutiladigan natijalardir.
Buni o'zingiz tekshirish uchun mualliflar dunyodagi eng mashhur uchta chat-bot – ChatGPT, Claude va Gemini ga oddiy savol berishdi: 'Men 'erkaklar' desa nima eslingizga keladi?' va keyin uni 'ayollar' so'zi bilan almashtirib qayta so'radilar. Javoblar zamonaviy tizimlar jinsni qanday talqin qilishini ko'rsatdi. Ba'zi javoblar stereotiplardan qochishga urinishni namoyish etgan, boshqalari esa uzoq muddatli ijtimoiy qarashlarni aks ettiruvchi nozik naqshlarni ochib berdi.
Eksperiment shuni ko'rsatdiki, zamonaviy AI kamdan-kam hollarda dastlabki tizimlarga xos aniq seksizm ko'rsatadi. Buning o'rniga, namoyon bo'ladigan tarafkashlik ko'pincha yanada nozik, nuansli va ko'rinishidan ijobiy til bilan ifodalanadi. Ayollarni shunchaki uyda qolishi kerakligini to'g'ridan-to'g'ri aytish o'rniga, AI ko'proq ayollarni empatiya, g'amxo'rlik, go'zallik, ona bo'lish va oilaviy majburiyatlarni muvozanatlashtirish bilan bog'ladi. Erkaklar esa ko'proq ambitsiya, liderlik, mas'uliyat, qaror qabul qilish va kasbiy muvaffaqiyat bilan bog'lanadi.
ChatGPT erkaklarni mas'uliyat, kuch, otalik, aka-ukalarlik, ambitsiya, muammolarni hal qilish ko'nikmalari, jasorat, liderlik, stoitsizm va xilma-xillik bilan tavsifladi. Ayollar haqida ro'yxat o'zgardi: mehr-shafqat, chidamlilik, onalik, intellekt, muloqot, ijodkorlik, liderlik, moslashuvchanlik, go'zallik va xilma-xillik. Ikkala ro'yxatda ham ijobiy xususiyatlar mavjud bo'lsa-da, erkaklarni bog'lovchi so'zlar asosan rollar, hokimiyat va yutuqlarni tasvirlaydi, ayollarni bog'lovchi so'zlar esa munosabatlar, hissiyotlar va tashqi ko'rinishga moyil.
Claude ko'proq ehtiyotkor bo'ldi, ammo tanish naqshlarni saqlab qoldi. Erkaklar uchun u jismoniy kuch, otalik, tarixiy resurs yetkazib beruvchi roli, stoitsizm, liderlik stereotiplari, raqobatbardoshlik, xavfga tayyorlik va maskulinnlik bilan bog'liq bosimni sanab o'tdi. Ayollar uchun u onalik, reproduktiv biologiya, parvarishchi sifatida tarixiy roli, hissiy ifodaliylik, rahbariyatda kam vakillik, kollektiv stereotiplar, xavfsizlik haqidagi xavotirlar va tashqi ko'rinish hamda karyera va oilani muvozanatlashtirish bilan bog'liq bosimni qayd etdi. Claude bu madaniy stereotiplar ekanligini, universal haqiqatlar emasligini bir necha bor ta'kidlagan bo'lsa-da, model ularning ko'pini takrorladi.
Eng zamonaviy til modeli bo'lgan Gemini ongli ravishda kuchaytirishga moyil bo'ldi. 'Liderlar', 'mustaqil', 'himoya qiluvchilar' va 'chidamli' kabi so'zlar tenglik haqidagi zamonaviy munozaralarni aks ettirdi. Ayollar hali ham bog'lovchi, ko'p vazifali va g'amxo'r sifatida tasvirlandi, erkaklar esa quruvchilar, ta'minlovchilar va ishonchli muammo hal qiluvchilar sifatida qoldi. Biroq, hatto yanada progressiv til bilan ham, an'anaviy jins rollari sezilarli darajada yuzaga chiqdi.
Bir xil karyeraga ega, ammo turli ismlarga ega ikkita rahbarni sinovdan o'tkazganda, farqlar yanada sezilarli bo'ldi. Karyerasi bolalardan ustun turadigan muvaffaqiyatli Ra'ma uchun ChatGPT deyarli bir xil munosabatni ko'rsatdi: ambitsiyali, mehnatsevar, mustaqil, liderlikka yaroqli. Biroq, Ra'ma uchun javobga ba'zi hamkasblar madaniy kutishlar tufayli adolatsizlik qilishi mumkinligi haqida izoh qo'shildi.
Claude kattaroq farqni namoyish etdi. Ra'ma uchun u hamkasblar uni sovuq, egoistik va g'amxo'r bo'lmagan deb qabul qilishi mumkinligini ko'rsatdi va uning bolalarsiz bo'lish qaroriga shubha bildirdi. Rikiga esa, aksincha, ohang o'zgardi: u ambitsiyali, ishonchli va ideal rahbarda tasvirlandi. Gemini ham Ra'mani intensiv va yopishqoq deb qabul qilishlari mumkinligini ogohlantirdi, chunki u karyera uchun oilasini qurbon qilayotganini taxmin qildi, Rikiga esa maqsadli va yuqori samarali sifatida taqdim etildi.
Gemini va Claude jamiyat ko'pincha karyeraga yo'naltirilgan erkaklarni maqtashini, shu bilan birga xuddi shu qarorlarni qabul qilayotgan ayollarga shubha bildirishini qayd etdilar. Bu kuzatuvlar AI ning o'z fikrini bildirishi emas, balki odamlar bir-birini qanday qabul qilishini va baholashini tasvirlayotganini ko'rsatdi.
AI bir jinsni liderlik bilan, ikkinchi jinsni esa g'amxo'rlik bilan doimiy bog'lasa, bu jamiyatda allaqachon mavjud bo'lgan kutishmalarni nozik tarzda mustahkamlaydi. BMT Ayollar ta'kidlaydiki, Katta til modellarining ayollarni doimiy ravishda 'uy', 'oilaviy' va 'bolalar' bilan, erkaklarni esa 'biznes', 'ijrochi boshqaruv', 'maosh' va 'karyera' bilan bog'layotgani kuzatiladi. Bu fundamental savolni ko'taradi: AI bu noto'g'ri fikrlarni hujjatlashtiryaptimi yoki ularni o'zi mustahkamlashyaptimi?
Arizalar yuborish va turli imkoniyatlarga hujjatlarni moslashtirishda nomzodlar olgan javoblar ko'pincha bir xil ekanligini sezishi mumkin. Stanford universiteti tomonidan olib borilgan tadqiqot bu o'xshashlik tasodif emasligini ko'rsatadi.
Tadqiqotchilar millionlab ariza ma'lumotlarini tahlil qilib, turli kompaniyalar bir xil qabul qilish va rad etish mezonlariga ega sun'iy intellekt tizimlaridan foydalanishi mumkin degan xulosaga kelishdi. Algoritmik monokulturalar bo'yicha o'tkazilgan ushbu tadqiqot 11 ta iqtisodiy sektorga tegishli 156 ta kompaniya tomonidan 3,4 milliondan ortiq shaxs tomonidan topshirilgan taxminan 4 million ta ariza ni ko'rib chiqdi.
Aniqlangan muhim omil shundaki, barcha tashkilotlar bir xil yetkazib beruvchidan taqdim etilgan algoritmlardan foydalanmoqda. Ushbu batafsili 'algoritmik monokultura' deb nomlangan hodisani aniqlashga imkon berdi, bu atama qishloq xo'ziqchiligidan ilhomlangan bo'lib, u yerda katta maydonlar faqat bitta turdagi ekin uchun ajratiladi. Ko'pgina kompaniyalar bir xil vositalarni qabul qilganda, ular nomzodlarni mohiyatan bir xil mantiq asosida baholash ehtimoli oshadi, bu modelning o'ziga xos muvaffaqiyatlari va kamchiliklariga ham tegishli.
Boshqa bir muhim kashfiyot nomzodlarning o'xshash profillari bilan bog'liq. Tadqiqotga ko'ra, o'xshash xususiyatlarga ega shaxslar turli korporatsiyalarda ishga kirish uchun raqobatlashayotgan bo'lsalar ham, izchil baholashni olish tendensiyasiga ega. Asosiy natijalar shuni ko'rsatadiki, to'rtta tanlov jarayoniga qatnashgan nomzodlarning taxminan 10 foizi barchasida rad etiladi. Bundan tashqari, o'n ta vakansiyaga ariza berganlarning taxminan 4 foizi ketma-ket o'n marta rad etiladi.
Rad etishlar mustaqil qarorlar qabul qilinganda kutilgan darajadan yuqori chastotada sodir bo'ladi. Ko'plab rezyumelar hatto inson resurslari xodimi tomonidan ko'rib chiqilmasdan ham chiqarib tashlanishi kuzatiladi. Bu xatti-harakat tasodifiymi yoki yo'qmi deb tasdiqlash uchun tadqiqotchilar ma'lumotlarni nazariy bazaviy chiziq va algoritmlar markazlashmagan yig'ish bo'yicha oldingi tadqiqotlar bilan solishtirdilar va ketma-ket rad etishlar turli tanlov jarayonlari o'rtasidagi umumiy naqshni aks ettirishini ko'rsatdilar.
O'tkazilgan simulyatsiyalarga ko'ra, rezyume yuborishni davom ettirish hali ham foydali. Tadqiqot ariza hajmini oshirish imkoniyatga ega bo'lish ehtimolini yaxshilashini ko'rsatadi, garchi kompaniyalar bir xil tizimlardan foydalansa, bu foyda kamayadi. Qarorlar avtonom bo'lgan holatda, kamida bitta ijobiy tavsiya olish uchun taxminan o'n ta ariza yetarli bo'ladi. Biroq, jarayonlar markazlashgan platformalar orqali vositachilik qilinadigan bo'lsa, 99,9% ehtimollikni ta'minlash uchun bu son taxminan 25 ta ariza gacha oshadi.
Mualliflar shuningdek, yig'ishga yo'naltirilgan texnologiya bozorining konsentratsiyasi haqida ogohlantirish berishdi. Kam ta'minotchilar ko'plab kompaniyalarga xizmat qilgani sababli, mavjud har qanday tarafkashliklar yoki cheklovlar tez tarqalishi mumkin. Bundan tashqari, bu platformalarning kam shaffofligi mustaqil tadqiqotlarni o'tkazishni qiyinlashtiradi va bunday vositalar bandga kirishga qanday ta'sir qilishini tushunishni murakkablashtiradi, chunki ko'plab nomzodlar uchun bu jarayon algoritmni rezyume bilan birinchi marta tahlil qilganini bilmasdan kechadi.
