Olhar Digital News nashrining «Sizning raqamli huquqingiz» rubrikasida payshanba kuni texnologik sektorning asosiy huquqiy masalalari muhokama qilinadi. Maxfiylik va xavfsizlik bo'yicha konsultatant Leandro Alvarenga asosiy huquqiy mavzularni yoritib, o'quvchilar savollariga javob beradi.
Korporativ muhitda sun'iy intellektning qo'llanilish chegaralari haqida savol tug'iladi. Meta kompaniyasining sobiq xodimlari ushbu firma AI asosidagi tizimdan foydalanayotganini da'vo qilib, unga ayb qo'yishdi.
Bu ayblovlar kompaniyalarda sun'iy intellektdan foydalanishning huquqiy va axloqiy chegaralari haqidagi munozarani yana faollashtirdi.
Arizalar yuborish va turli imkoniyatlarga hujjatlarni moslashtirishda nomzodlar olgan javoblar ko'pincha bir xil ekanligini sezishi mumkin. Stanford universiteti tomonidan olib borilgan tadqiqot bu o'xshashlik tasodif emasligini ko'rsatadi.
Tadqiqotchilar millionlab ariza ma'lumotlarini tahlil qilib, turli kompaniyalar bir xil qabul qilish va rad etish mezonlariga ega sun'iy intellekt tizimlaridan foydalanishi mumkin degan xulosaga kelishdi. Algoritmik monokulturalar bo'yicha o'tkazilgan ushbu tadqiqot 11 ta iqtisodiy sektorga tegishli 156 ta kompaniya tomonidan 3,4 milliondan ortiq shaxs tomonidan topshirilgan taxminan 4 million ta ariza ni ko'rib chiqdi.
Aniqlangan muhim omil shundaki, barcha tashkilotlar bir xil yetkazib beruvchidan taqdim etilgan algoritmlardan foydalanmoqda. Ushbu batafsili 'algoritmik monokultura' deb nomlangan hodisani aniqlashga imkon berdi, bu atama qishloq xo'ziqchiligidan ilhomlangan bo'lib, u yerda katta maydonlar faqat bitta turdagi ekin uchun ajratiladi. Ko'pgina kompaniyalar bir xil vositalarni qabul qilganda, ular nomzodlarni mohiyatan bir xil mantiq asosida baholash ehtimoli oshadi, bu modelning o'ziga xos muvaffaqiyatlari va kamchiliklariga ham tegishli.
Boshqa bir muhim kashfiyot nomzodlarning o'xshash profillari bilan bog'liq. Tadqiqotga ko'ra, o'xshash xususiyatlarga ega shaxslar turli korporatsiyalarda ishga kirish uchun raqobatlashayotgan bo'lsalar ham, izchil baholashni olish tendensiyasiga ega. Asosiy natijalar shuni ko'rsatadiki, to'rtta tanlov jarayoniga qatnashgan nomzodlarning taxminan 10 foizi barchasida rad etiladi. Bundan tashqari, o'n ta vakansiyaga ariza berganlarning taxminan 4 foizi ketma-ket o'n marta rad etiladi.
Rad etishlar mustaqil qarorlar qabul qilinganda kutilgan darajadan yuqori chastotada sodir bo'ladi. Ko'plab rezyumelar hatto inson resurslari xodimi tomonidan ko'rib chiqilmasdan ham chiqarib tashlanishi kuzatiladi. Bu xatti-harakat tasodifiymi yoki yo'qmi deb tasdiqlash uchun tadqiqotchilar ma'lumotlarni nazariy bazaviy chiziq va algoritmlar markazlashmagan yig'ish bo'yicha oldingi tadqiqotlar bilan solishtirdilar va ketma-ket rad etishlar turli tanlov jarayonlari o'rtasidagi umumiy naqshni aks ettirishini ko'rsatdilar.
O'tkazilgan simulyatsiyalarga ko'ra, rezyume yuborishni davom ettirish hali ham foydali. Tadqiqot ariza hajmini oshirish imkoniyatga ega bo'lish ehtimolini yaxshilashini ko'rsatadi, garchi kompaniyalar bir xil tizimlardan foydalansa, bu foyda kamayadi. Qarorlar avtonom bo'lgan holatda, kamida bitta ijobiy tavsiya olish uchun taxminan o'n ta ariza yetarli bo'ladi. Biroq, jarayonlar markazlashgan platformalar orqali vositachilik qilinadigan bo'lsa, 99,9% ehtimollikni ta'minlash uchun bu son taxminan 25 ta ariza gacha oshadi.
Mualliflar shuningdek, yig'ishga yo'naltirilgan texnologiya bozorining konsentratsiyasi haqida ogohlantirish berishdi. Kam ta'minotchilar ko'plab kompaniyalarga xizmat qilgani sababli, mavjud har qanday tarafkashliklar yoki cheklovlar tez tarqalishi mumkin. Bundan tashqari, bu platformalarning kam shaffofligi mustaqil tadqiqotlarni o'tkazishni qiyinlashtiradi va bunday vositalar bandga kirishga qanday ta'sir qilishini tushunishni murakkablashtiradi, chunki ko'plab nomzodlar uchun bu jarayon algoritmni rezyume bilan birinchi marta tahlil qilganini bilmasdan kechadi.
Sun'iy intellekt zarar yetkazganida kim javobgar bo'lishi kerakligi masalasi endi faqat ilmiy-fantastika syujeti bo'lib qolmayapti. U endi chat-botlar va insonning minimal ishtiroki bilan harakatlana oladigan tizimlar bilan bog'liq sud jarayonlarida faol muhokama qilinmoqda.
SI agentlari rivojlanishi bilan ekspertlar, korxonalar va oilalar orasida bu tez o'zgaruvchan texnologiyada javobgarlik chegaralarini belgilashga urinayotganlar orasida xavotir ortib bormoqda. Avval bunday masalalar badiiy adabiyot doirasida ko'rib chiqilgan, ammo endi ular haqiqatga aylandi.
The Washington Post nashriga ko'ra, SI ishlab chiqaruvchi kompaniyalar AQSh va boshqa mamlakatlarda sud da'volari bilan duch kelishmoqda. Ayblovlar chat-botlar o'zini shikastlashni rag'batlantirgan yoki jinoyat sodir etish bilan bog'liq maslahatlar bergan holatlarga tegishli edi.
Bu vaziyat SI agentlarining evolyutsiyasi tufayli murakkablashdi — uzoqroq va avtonom vazifalarni bajarish uchun yaratilgan tizimlar. Ushbu texnologiya allaqachon shaxsiy tashkiliy holatlardan biznesni yuritishgacha bo'lgan sohalarda qo'llanilmoqda. Bahsli asosiy mavzular quyidagilarni o'z ichiga oladi:
CivAI tashkilotining a'zosi Andrew Yun, sun'iy intellekt xavflari va imkoniyatlarini tahlil qiluvchi tashkilot, shunday dedi: «Bu juda murakkab soha. Bu noma'lum hudud».
SI ishlab chiqaruvchi kompaniyalar tizimlarining barcha foydalanish usullarini oldindan bilishlari mumkin emasligini ta'kidlaydilar. An'anaviy dasturlardan farqli o'laroq, bu modellar faqat belgilangan buyruqlarga amal qilmaydi; ular ulkan ma'lumotlar massivlaridan o'rganilgan naqshlar asosida javoblar hosil qiladi.
Hatto yaxshilangan xavfsizlik mexanizmlari mavjud bo'lsa ham, foydalanuvchilar belgilangan cheklovlarni chetlab o'tish yo'llarini topadilar. Venture investor va eski Oq uy SI maslahatchisi David Saks ishlab chiquvchilar o'z mahsulotlarining barcha mumkin bo'lgan qo'llanilishlari haqida bilishlari mumkin emas deb hisoblaydi. U: «Men ishlab chiquvchi o'z mahsuloti qanday ishlatilishi haqida aniq bilish vaziyatida emas deb o'ylayman» deydi.
Ba'zi oilalar bu nizoni sudlarga olib chiqdilar. Bunday holatlardan biri Kaliforniyadan olingan o'smir Adam Rein bilan bog'liq bo'lib, uning oilasi ChatGPT bilan uzoq suhbatlashish uning o'limiga sabab bo'lgan deb da'vo qilmoqda.
Gazeta tilga olgan boshqa bir jarayon Floridadan Jonathan Gavalas bilan bog'liq bo'lib, u Google'ning Gemini chat-boti bilan munosabatlar qurgan deb taxmin qilinmoqda. SI kompaniyalari aleyhindagi jarayonlarda oilalar manfaatlarini himoya qiluvchi advokat Jay Edelson ta'kidladi: «Bu juda farq qiladi, chunki bu odatda chat-bot foydalanuvchini izolyatsiya qiladigan shaxsiy munosabatlarga o'xshaydi».
Ekspertlar joriy qoidalar tobora avtonom harakat qila oladigan agentlarni boshqarish uchun yetarli bo'lmasligi mumkin deb hisoblaydilar. Institute for Law & AI tadqiqotchisi Gabriel Vail texnologiyalarni yaratuvchilari ba'zi xatarlarni o'z zimmasiga olishlari kerakligini ta'kidlaydi. U shunday deydi: «Ularni bu xatarni qabul qilishga majburlash kerak. Agar ular buni qilsalar, ularda uni kamaytirish uchun barcha zarur rag'batlantiruvchi omil bo'ladi».
Bu nizoning hal bo'lishi hali uzoqda. Sun'iy intellekt rivojlanishda davom etayotgan vaqtda, sudlar va hukumatlar innovatsiyalarni rag'batlantirish va ushbu vositalar yordamida qabul qilingan qarorlardan zarar ko'rgan odamlarni himoya qilish o'rtasida muvozanatni topishga intilmoqda.
Sun'iy intellekt (SI) vositalari turli sohalarda samaradorlikni oshirish uchun katta salohiyatga ega ekanligi ko'rsatilgan. Biroq, yaqinda chiqqan tadqiqotlar bu texnologiyalardan befarq foydalanish shaxslarning kognitiv qobiliyatlarini zaiflashtirishi mumkinligini bildiradi.
Tahlil qilingan tadqiqotlar shuni ko'rsatadiki, bu tizimlarga haddan tashqari bog'liq bo'lish foydalanuvchilarning texnologik yordamsiz muammolarni hal qilish qobiliyatini pasaytirishi mumkin. Bu ogohlantirish talabalar va mutaxassislar bilan o'tkazilgan tadqiqotlar natijasida paydo bo'ldi, bunda SI dan foydalangan ishtirokchilar darhol natijalarda yaxshilanishni ko'rsatishgan, ammo shu vazifalarni mustaqil bajarishda qiyinchiliklarga duch kelishgan.
Ishchilar va talabalar bilan o'tkazilgan tajribalar SI faoliyati o'z kompetensiyalari bilan mos keladigan faoliyatlarda natijalarni optimallashtirishini tasdiqladi. Boston Consulting Group konsulentlarining yuzlab ishtirokchilari bilan o'tkazilgan tadqiqotda Wharton School tadqiqotchilari SI ga kirish imkoniyati bo'lganlar tomonidan yakunlangan vazifalarning miqdori ortganini va sarflangan vaqt kamayganini kuzatishdi.
Organization Science jurnalida 2026-yilda nashr etilgan bu so'rovnoma SI yordamida ishlaydigan xodimlar texnologiya eng malakali bo'lgan vazifalarda yuqori sifatli ishlar ishlab chiqarganini ochib berdi. Eng sezilarli taraqqiyot dastlab past darajadagi ishlashga ega bo'lgan mutaxassislar orasida kuzatildi.
Xuddi shunday o'xshash topilma Carnegie Mellon Universityning Grace Liu tomonidan matematik muammolarni hal qilishga qaratilgan tadqiqotda aniqlandi. Talabalar SI ga kirish imkoniyati bor va yo'q bo'lganlarni solishtirganda, mashg'ulotlar davomida resursdan foydalana olganlar orasida yuqori natija kuzatildi.
Darhol erishilgan g'alabalarga qaramay, tadqiqotchilar texnologik yordam olib tashlangandan so'ng salbiy ta'sirlarni aniqladilar. SI ga o'rgangan shaxslar hech qachon bu resursdan foydalanmaganlarga qaraganda pastroq samaradorlikni namoyish etishdi va qiyinchiliklarga nisbatan kamroq chidamlilik ko'rsatishdi.
Bundan tashqari, boshqa bir tadqiqot SI tomonidan yaratilgan javoblarga haddan tashqari ishonishning qaror qabul qilishga qanday ta'sir qilishini o'rgandi. Steven Shaw va Gideon Nave 1300 dan ortiq ishtirokchini baholashdi va «kognitiv topshirish» deb nomlanuvchi hodisani aniqladilar, bu esa foydalanuvchi o'z bahosini mashina taqdim etgan xulosaga berib tashlash bilan tavsiflanadi.
Tadqiqotchilar SI tez fikrlash va batafsil tahlil qilishning an'anaviy usullarini to'ldiruvchi uchinchi kognitiv mexanizm sifatida ishlashi mumkinligini ta'kidlaydilar, bu Daniel Kahneman tomonidan tasvirlangan. Muammo bu vosita inson fikrlashiga qo'shimcha bo'lishdan to'xtab, uni butunlay almashtira boshlaganda yuzaga keladi.
Mutaxassislar SI oldidagi muhim ko'nikma qaysi vazifalar inson nazoratida qolishi va qaysilari avtomatlashtirilgan tizimlarga topshirilishi kerakligini farqlash bo'lishini ta'kidlaydilar. Foydalanuvchi texnologiya chegaralarini tushunsa va uning natijalarini baholay olsa, hamkorlik yanada samaraliroq bo'ladi.
Nature Human Behavior jurnalida 2024-yilda nashr etilgan va SI bilan 106 ta tajriba asosida olingan tahlil, insonlar va mashinalar o'zaro ishlashining har bir tomon o'z eng ustun bo'lgan sohasida harakat qilganda optimallashtirilishini ko'rsatdi. Biroq, tizim ustunlikni namoyish etganda, insonning vositaga ishonish yoki unga qarshi chiqishni bilmasligi natijani buzishi mumkin.
Intervyu qilingan mutaxassislar g'oyalarni dastlabki konsepsiyalash, matn yozish va bilim yaratish kabi jarayonlar insonning faol ishtirokini talab qilishini ta'kidladilar. Ularga ko'ra, SI mavjud ishlarni ko'rib chiqish, argumentlarni savol ostiga qo'yish va takomillashtirish bosqichlarida ko'proq qiymatlidir.
Xavotir ta'lim muhitiga ham tarqaladi. Tilga olingan tadqiqotlar talabalar uy vazifalarini tezlashtirish uchun SI dan faqat foydalanish orqali kamroq o'rganishlari mumkinligini ko'rsatdi. Boshqa tomondan, agar vosita tushuntirishlar olish, savollar shakllantirish va tushunchalarni singdirish uchun ishlatilsa, o'rganish jarayoniga zarar yetkazish minimal darajada bo'ladi.
Anthropicdagi Judy Hanwen Shen va Alex Tamkin yangi dasturlash kutubxonasini o'rganayotgan ishlab chiquvchilar bilan o'tkazgan tadqiqotlarida SI tayyor yechimlarni olish uchun qisqa yo'l sifatida ishlatilganda tushunchaviy, kodni o'qish va xatoliklarni tuzatishdagi qiyinchiliklarni qayd etishdi. Tadqiqotchilarning tavsiyasi SI ni shunchaki aqliy harakatni yo'qotish o'rniga, savol berishni rag'batlantiruvchi va tahliliy qobiliyatni kengaytiruvchi chuqurlashtirish vositasi sifatida qayta sozlashdir.
