Instituto da Hora (IDH) ijrochi direktori va Universidade Estadual de Campinas (Unicamp) ilmiy xodimi boʻlgan tadqiqotchi Braziliya boʻylab metro, stadionlar, aeroportlar va jamoatchilik xavfsizligi tizimlarida qoʻllaniladigan yuzni tanish texnologiyalarini oʻrganish natijalarini taqdim etdi.
Unicampning Kompyuter Texnikasi Instituti tomonidan 2026-yil may oyida himoya qilingan magistrlik dissertatsiyasining asosini tashkil etgan va shuningdek, algoritmlar tizimlaridagi adolat va masʼuliyatga bagʻishlangan eng muhim xalqaro konferensiya boʻlgan ACM FAccT nashrlarida eʼlon qilingan «Frankenstein in the Pipeline» maqolasi ushbu matnda taqdim etildi.
Muallif oʻz topilmalarini tushuntiradi va bu hodisani «kompyuter epistemitsidiyasi» deb ataydi. U yuzni tanish tizimi odamlarni «koʻrmaydi», balki kompyuter fanlari tomonidan payplayn yoki ishlab chiqarish liniyasi deb ataladigan belgilangan operatsiyalar ketma-ketligini bajaradi, bunda har bir bosqich olingan maʼlumotlarni transformatsiya qiladi.
Bu jarayon quyidagilarni oʻz ichiga oladi: yuzni aniqlash, bu tasvirda tasniflanuvchi yuz borligini aniqlaydi; kesish, bu hududni izolyatsiya qiladi; tekislash, kesilgan hududni koʻz, burun va ogʻizning kutilayotgan joyi boʻyicha standartlashtirilgan shablonga tuzatadi; va nihoyat, vektorlash, natijani vektorga — tizimdagi odamni ifodalovchi yuzlab sonlardan iborat roʻyxatga — aylantiradi.
Bu tuzilmaning ikkita oqibati tadqiqotning asosini tashkil etdi. Hamma narsa birinchi bosqichga bogʻliq: aniqlanmagan yuz tizim uchun mavjud boʻlmaydi. Bundan tashqari, tekislash shablon mavjudligini talab qiladi, bu esa norma belgilanishini anglatadi.
Har qanday yuz tasviri kutilayotgan joylarga joylashtirilishi uchun tizim oʻquv paytida tahlil qilingan millionlab tasvirlarga asoslanib, «tipik yuz» nima ekanligini oʻrganishi kerak edi. Muallif bu noaniq normani «kanonik yuz» deb ataydi. Uning tadqiqoti bu savoldan boshlandi: bu normadan chetga chiqqan yuzlar shu darajada ishonchli qayta ishlanadimi?
Bu texnologiyalardagi irq farqlanishi yangi gipoteza emas. 2018-yilda Joy Buolamwini va Timnit Gebru olimlari tomonidan oʻtkazilgan Gender Shades tadqiqoti tijorat yuz tahlili tizimlari qorongʻi teriga ega ayollarga ochkoʻz erkaklarga qaraganda sezilarli darajada koʻproq xato qilishini koʻrsatdi. Keyingi yili AQSh Milliy standartlar va texnologiyalar instituti (NIST) yuzlab algoritmlarni tahlil qilib, aksariyatida demografik guruhlar oʻrtasidagi ishlash farqlarini hujjatlashtirdi.
Sanoatning bu kashfiyotlarga reaksiyasi odatda bitta xulosaga qisqartiriladi: farqlar eskirgan modellar cheklovlari hisoblanadi, ularni yanada zamonaviy arxitekturalar va katta oʻquv namunalari yordamida tuzatish mumkin. Garchi bu taxmin asosli va tekshirishga yoʻl qoʻysa ham, farqlarning texnik taraqqiyot bilan yoʻqolayotganligini tekshirish uchun turli model oilalarini bir xil sharoitlarda solishtiruvchi nazoratli sinov oʻtkazish talab qilinardi. Aynan buni muallif amalga oshirishga qaror qildi.
Turli texnologik oilalardan uchta model tanlandi. Birinchi ikkitasi YOLO seriyasiga tegishli, bu «you only look once» (bir marta qarasang) degani — real vaqt rejimida ishlashi uchun kameralar va kuzatuv tizimlarida keng qoʻllaniladigan obyektlarni aniqlash modellari. YOLOv11 inson vizual tizimidan ilhomlangan konvolyutsion neyron tarmoqlaridan foydalanadi, ular tasvirni kichik filtrlarda skanerlaydi va chegaralar, teksturalar va shakllarni qidiradi, soʻnggi oʻn yilda kompyuter koʻrishda ustunlik qiladi. YOLOv12 bu bazaga diqqat mexanizmlarini qoʻshimcha qiladi, bu esa modelga muhim deb hisoblangan tasvir qismlariga koʻproq vazn berish imkonini beradi.
Uchinchi model, RT-DETRv2, Transformerlar oilasiga tegishli — bu tasvirni bir vaqtda qayta ishlaydigan va uning barcha qismlarini bogʻlaydigan arxitektura boʻlib, u ChatGPT kabi tizimlarning asosini tashkil etadi va koʻpincha bu texnologiyadagi «eng ilgʻor holat» sifatida taqdim etiladi.
Uchta model bir xil maʼlumotlar toʻplami, yaʼni Meta tomonidan adolatni baholash uchun yaratilgan Casual Conversations v2 da baholandi. Bu Braziliya kabi yetti mamlakatda suratga olingan 5 567 haq toʻlovli ishtirokchining ishtirok etgan 26 467 ta videosi boʻlib, ular sunʼiy intellekt adolatligi tadqiqotlarida yuzlarining tasvirlaridan foydalanishga rozilik berishgan. Ishtirokchilar oʻzlari yosh va jins kabi atributlarni koʻrsatishdi. Oʻqitilgan annotatorlar koʻrinadigan teri rangini standartlashtirilgan miqyoslar boʻyicha tasniflashdi, shuningdek, yoritish oʻzgarishlari kabi suratga olish sharoitlari hujjatlashtirildi. Bunday yondashuv umumiy koʻrsatkichda oʻrniga, har bir guruh uchun aniqlash xatolari koʻrsatkichlarini alohida oʻlchash imkonini berdi.
Asosiy natija quyidagicha: uchta arxitektura teri rangi boʻyicha farqlanishning bir xil naqshlarini namoyish etadi, bir xil guruhlarga ketma-ket xato qiladi. Agar turli anatomiyaga ega uchta mashina bir xil yuzlarga xato qilsa, muammo hech birining individual jihatiga tegishli emas. U ularning umumiy narsasiga tegishli: ishlab chiqarish metodi, uning maʼlumotlari, shablonlari va yuzning noaniq taʼrifi. Shu tariqa, keyingi avlod modellarining tengsizlik muammolarini hal qilish boʻyicha vaʼda muallif toʻplagan maʼlumotlar bilan tasdiqlanmaydi.
Hozircha xulosa empirik xarakterga ega. Dissertatsiyaning keyingi qadamlari konseptual xarakterga ega: bu hodisaga qanday nom berish kerak? Umumiy lugʻat «algoritmik bias» haqida gapiradi, bu kalibrlash orqali tuzatilishi mumkin boʻlgan texnik chetlanishni nazarda tutadi. Muallif bunday ramka xatolikni tasvirlashini, ammo uni keltirib chiqaruvchi mexanizmni va u taʼsirlangan odamlarga nima qilayotganini yashirayotganini taʼkidlaydi. Soʻz tanlovi institutsiya ahamiyatiga ega: agar bu xato sifatida qaralsa, muammo tizim ishlab chiqaruvchilarining eksklyuziv yurisdiktsiyasi ostida qoladi.
Muallifning alternativi braziliyalik filosof Sueli Carneiro tomonidan uning doktorlik dissertatsiyasida irqiy guruhlarning bilimlari va mavjud boʻlish usullarini tizimli ravishda diskvalifikatsiya qilishning tarkibiy qismi sifatida, emas, balki uning tasodifiy holati sifatida belgilash uchun ishlab chiqilgan epistemitsidiya konsepsiyasiga asoslanadi. Oʻz dissertatsiyasida muallif bu konsepsiyani texnik soha uchun kengaytiradi. «Kompyuter epistemitsidiyasi» — bu tizim yuz normasi yaratadigan, bu normani tanish mezonlari sifatida majburlaydigan va matematik obʼektivlik nomi ostida unga mos kelmaydiganlarning hisoblash mavjudligini inkor etadigan jarayondir.
Shunday qilib, Mary Shelley yaratgan Frankenstein nafaqat illyustratsiya, balki oʻqish usuli boʻlib qoladi. Roman aniqlik metriksining ushlab bora olmaydigan analitik tuzilmani taqdim etdi: parchalangan qismlardan yigʻilgan, vakolatga ega, ammo uning javobgarlisi boʻlmagan mavjudot.
Yuzni tanish tizimlarining payplayni shu tuzilmani takrorlaydi. U yuzni fragmentlarga ajratadi, raqamli oʻrnini tiklaydi va tashqi audit, jamoatchilikda takrorlanish va tasniflanayotganlar uchun apellyatsiya kanali boʻlmasdan hayotlar ustidan amaliy vakolat bilan harakat qilishni boshlaydi.
Muallifning tadqiqoti barcha kompyuter koʻrishdan voz kechishni chaqirmaydi va hech kimning niyatlarini baholamaydi. U maʼlumotlarga asoslanib qoʻllab-quvvatlayotgan narsa yanada aniqroq. Zarar metodda joylashganida, natijani kalibrlash uni bartaraf etmaydi: jamoatchilik xavfsizligi tizimiga yuqori aniqlikdagi yuzni aniqlash tizimini joriy etish, allaqachon qora teri va periferik aholiga yoʻnaltirilgan yondashuvlarga eʼtibor qaratayotgan tizimda, faqatgina bu konsentratsiyani apellyatsiya qilishni tezlashtiradi va qiyinlashtiradi.
Shuning uchun muallif «aniq rad» deb ataydigan narsani qoʻllab-quvvatlaydi: jamoatchilik xavfsizligidagi yuzni tanish kabi, arxitekturadan qatʼi nazar zarar yetkazadigan maʼlum operatsiyalardan voz kechish va u «kompyuter tuzatish» deb ataydigan narsaga sarmoya kiritish: hozirgacha faqat xomashyo sifatida maʼlumotlar bazalariga kiritilgan aholi tarkibida yaratilgan, audit qilinadigan, apellyatsiya qilinadigan tizimlar uchun tamoyillar.
Mary Shelley ikki asrdan ortiq yillar oldin tasavvur qilgan mavjudot, u qaysi materialdan qilinganligi sababli emas, balki hech kim uning javobgarligini olmoqchi boʻlmagani uchun dahshatli boʻldi. Biz yaratgan va shaharlarimizga joylashtirgan raqamli mavjudotlarning xatolarini tarqatish va yechimlar taklif qilish — odamlarning taqdiriga hukmronlik qilish va taʼsir qilish vakolati bilan — bu yerda boshlanadigan ishdir.
[ ]