ब्राजील में अध्ययन ने मौजूदा चेहरे की पहचान प्रणालियों की कमियों का पता लगाया

एक शोधकर्ता, जो Instituto da Hora (IDH) की कार्यकारी निदेशक और Universidade Estadual de Campinas (Unicamp) की वैज्ञानिक कर्मचारी हैं, ने ब्राजील भर में मेट्रो, स्टेडियमों, हवाई अड्डों और सार्वजनिक सुरक्षा प्रणालियों में उपयोग की जाने वाली चेहरे की पहचान तकनीकों के अध्ययन के परिणाम प्रस्तुत किए।

यह कार्य, जो मई 2026 में Unicamp के Institute of Computational Engineering में उनकी मास्टर थीसिस का आधार बना, साथ ही ACM FAccT की कार्यवाही में प्रकाशित लेख 'Frankenstein in the Pipeline' भी था, जो एल्गोरिथम प्रणालियों में निष्पक्षता और जवाबदेही पर केंद्रित प्रमुख अंतरराष्ट्रीय सम्मेलन है, उसे इस पाठ में प्रस्तुत किया गया है।

लेखक अपनी खोजों की व्याख्या करती हैं और इस घटना को 'कंप्यूटेशनल एपिस्टेमिकसाइड' कहती हैं। वह बताती हैं कि चेहरे की पहचान प्रणाली लोगों को 'देखती' नहीं है, बल्कि एक निश्चित ऑपरेशन अनुक्रम करती है जिसे कम्प्यूटेशनल विज्ञान पाइपलाइन या उत्पादन लाइन कहता है, जहां प्रत्येक चरण प्राप्त डेटा को रूपांतरित करता है।

इस प्रक्रिया में चेहरे का पता लगाना शामिल है, जो छवि में वर्गीकृत चेहरे की उपस्थिति निर्धारित करता है; क्रॉपिंग, जो उस क्षेत्र को अलग करता है; संरेखण, जो कटे हुए क्षेत्र को आंख, नाक और मुंह की अपेक्षित स्थिति के साथ मानकीकृत टेम्पलेट के अनुसार ठीक करता है; और अंत में, वेक्टरकरण, जो परिणाम को एक वेक्टर में बदल देता है - सैकड़ों संख्याओं की सूची जो सिस्टम में व्यक्ति का प्रतिनिधित्व करती है।

इस संरचना के दो परिणाम अध्ययन का आधार बने। यह सब पहले चरण पर निर्भर करता है: यदि चेहरा का पता नहीं चलता है, तो वह सिस्टम के लिए अस्तित्वहीन हो जाता है। इसके अलावा, संरेखण के लिए एक टेम्पलेट की आवश्यकता होती है, जिसका अर्थ है एक मानदंड स्थापित करना।

किसी भी चेहरे की छवि को अपेक्षित स्थितियों में फिट करने के लिए, सिस्टम को लाखों विश्लेषण की गई छवियों के आधार पर यह सीखना पड़ा कि 'सामान्य चेहरा' क्या है। लेखक इस अंतर्निहित मानदंड को 'कैनोनिकल फेस' कहती हैं। उनका शोध इस प्रश्न से शुरू हुआ: क्या इस मानदंड से विचलित होने वाले चेहरों को समान विश्वसनीयता के साथ संसाधित किया जाता है?

इन तकनीकों में नस्लीय अंतर का अस्तित्व कोई नई परिकल्पना नहीं है। 2018 में, Joy Buolamwini और Timnit Gebru द्वारा किए गए Gender Shades नामक अध्ययन ने दिखाया कि वाणिज्यिक चेहरे के विश्लेषण सिस्टम गहरे रंग की महिलाओं के संबंध में हल्के रंग के पुरुषों की तुलना में काफी अधिक गलतियाँ करते थे। अगले साल, अमेरिकी राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) ने सैकड़ों एल्गोरिदम का विश्लेषण किया और उनमें से अधिकांश में जनसांख्यिकीय समूहों के बीच प्रदर्शन में अंतर को प्रलेखित किया।

इन खोजों पर उद्योग की प्रतिक्रिया आमतौर पर एक निष्कर्ष तक सीमित होती है: विसंगतियां पुरानी मॉडलों की सीमाएं हैं जिन्हें अधिक आधुनिक आर्किटेक्चर और बड़े प्रशिक्षण सेटों का उपयोग करके ठीक किया जा सकता है। हालांकि यह धारणा उचित और परीक्षण योग्य है, यह जांचने के लिए एक नियंत्रित परीक्षण की आवश्यकता थी कि क्या तकनीकी प्रगति के साथ विसंगतियां गायब हो जाती हैं, विभिन्न मॉडल परिवारों की तुलना समान परिस्थितियों में करके। यही वह काम था जिसे लेखक ने करने का फैसला किया।

विभिन्न तकनीकी परिवारों से तीन मॉडल चुने गए। पहले दो YOLO श्रृंखला से संबंधित हैं, जिसका अर्थ है 'आप केवल एक बार देखते हैं' (you only look once) - ऑब्जेक्ट डिटेक्शन मॉडल, जिनका कैमरों और निगरानी प्रणालियों में वास्तविक समय में काम करने के कारण व्यापक रूप से उपयोग किया जाता है। YOLOv11 मानव दृश्य प्रणाली से प्रेरित कनवोल्यूशनल न्यूरल नेटवर्क का उपयोग करता है, जो छवि को छोटे फिल्टर के साथ सीमाओं, बनावट और आकृतियों की तलाश में स्कैन करते हैं, और पिछले दशक में कंप्यूटर विजन पर हावी रहे हैं। YOLOv12 इस आधार को ध्यान तंत्रों (attention mechanisms) से पूरक करता है, जिससे मॉडल को छवि के उन क्षेत्रों को अधिक महत्व देने की अनुमति मिलती है जिन्हें महत्वपूर्ण माना जाता है।

तीसरा मॉडल, RT-DETRv2, ट्रांसफॉर्मर परिवार से संबंधित है - एक आर्किटेक्चर जो छवि को एक साथ संसाधित करता है, उसके सभी हिस्सों को जोड़ता है, और ChatGPT जैसी प्रणालियों का आधार बनता है, जिसे अक्सर इस तकनीक में 'कला का उन्नत चरण' कहा जाता है।

तीनों मॉडलों का मूल्यांकन एक ही डेटासेट, Casual Conversations v2 पर किया गया, जिसे मेटा ने निष्पक्षता का आकलन करने के लिए बनाया था। इसमें 5,567 भुगतान करने वाले प्रतिभागियों की भागीदारी के साथ 26,467 वीडियो शामिल थे, जिन्होंने एल्गोरिथम निष्पक्षता के अध्ययन में अपने चेहरे की छवियों के उपयोग के लिए सहमति दी थी, जो ब्राजील सहित सात देशों में फिल्माए गए थे। प्रतिभागियों ने स्वयं आयु और लिंग जैसे गुण बताए। प्रशिक्षित एनोटेटर्स ने मानकीकृत पैमानों पर दिखाई देने वाले त्वचा टोन को वर्गीकृत किया, और शूटिंग की स्थितियों, जिसमें प्रकाश व्यवस्था में भिन्नताएं शामिल थीं, का दस्तावेजीकरण किया गया था। इस दृष्टिकोण ने समग्र मीट्रिक में उन्हें औसत करने के बजाय प्रत्येक समूह के लिए पता लगाने की त्रुटि दरों को मापने की अनुमति दी।

केंद्रीय परिणाम यह है: तीनों आर्किटेक्चर त्वचा के टोन में विसंगतियों के समान पैटर्न प्रदर्शित करते हैं, लगातार एक ही समूहों के संबंध में गलतियाँ करते हैं। यदि विभिन्न शारीरिक रचना वाले तीन मशीनें एक ही चेहरों पर गलती करती हैं, तो समस्या किसी एक में नहीं है। यह उस चीज़ में है जो उनके पास सामान्य है: उत्पादन विधि, उसके डेटा, टेम्पलेट्स और चेहरे की अस्पष्ट परिभाषा। इस प्रकार, यह वादा कि अगली पीढ़ी के मॉडल असमानता की समस्याओं का समाधान करेगी, लेखक द्वारा एकत्र किए गए डेटा में समर्थित नहीं है।

अब तक निष्कर्ष अनुभवजन्य प्रकृति का है। थीसिस का अगला कदम वैचारिक है: इस घटना को क्या नाम दिया जाए? आम शब्दावली 'एल्गोरिथमिक बायस' (algorithmic bias) की बात करती है, जो एक तकनीकी विचलन का सुझाव देती है जिसे अंशांकन द्वारा ठीक किया जा सकता है। लेखक का तर्क है कि यह ढांचा त्रुटि का वर्णन करता है, लेकिन उस तंत्र को छिपाता है जो इसे उत्पन्न करता है, और यह उन प्रभावित लोगों के साथ क्या करता है। शब्दों का चयन संस्थागत निहितार्थ भी रखता है: एक बग के रूप में विचार किए जाने पर, समस्या सिस्टम निर्माताओं के विशेष अधिकार क्षेत्र के तहत बनी रहती है।

लेखक का विकल्प ब्राज़ीलियाई दार्शनिक Sueli Carneiro द्वारा अपनी डॉक्टरेट थीसिस में विकसित एपिस्टेमिकसाइड की अवधारणा पर आधारित है, जिसका उपयोग नस्लीय समूहों के ज्ञान और अस्तित्व के तरीकों के व्यवस्थित अयोग्यता को नस्लवाद के एक घटक के रूप में नामित करने के लिए किया जाता है, न कि उसकी आकस्मिकता के रूप में। अपनी थीसिस में, लेखक इस अवधारणा का विस्तार तकनीकी क्षेत्र तक करती हैं। 'कंप्यूटेशनल एपिस्टेमिकसाइड' वह प्रक्रिया है जिसके द्वारा सिस्टम चेहरे का मानदंड बनाता है, इस मानदंड को पहचान के मानदंड के रूप में थोपता है, और गणितीय वस्तुनिष्ठता के मुखौटे के तहत उन लोगों के कंप्यूटेशनल अस्तित्व को नकारता है जो इससे मेल नहीं खाते हैं।

इस प्रकार, मैरी शेली द्वारा बनाया गया फ्रेंकस्टीन एक चित्रण से हटकर एक पठन पद्धति बन जाता है। उपन्यास ने एक विश्लेषणात्मक संरचना प्रदान की जिसे सटीकता मेट्रिक पकड़ नहीं पाती है: एक प्राणी जो कटे हुए हिस्सों से बना है, जिसके पास अधिकार है लेकिन जिसके लिए कोई जिम्मेदार नहीं है।

चेहरे की पहचान प्रणालियों की पाइपलाइन इस संरचना को दोहराती है। यह चेहरे को टुकड़ों में तोड़ता है, एक संख्यात्मक प्रतिस्थापन को पुनर्स्थापित करता है, और बिना बाहरी ऑडिट, सार्वजनिक पुनरुत्पादन और वर्गीकृत लोगों के लिए अपील चैनल के जीवन पर व्यावहारिक अधिकार के साथ कार्य करना शुरू कर देता है।

लेखक का शोध कंप्यूटर विजन को पूरी तरह से छोड़ने का आह्वान नहीं करता है और न ही किसी के इरादों का मूल्यांकन करता है। जो वह डेटा के आधार पर समर्थन करती है वह अधिक विशिष्ट है। जब नुकसान पद्धति में निहित होता है, तो परिणाम का अंशांकन इसे समाप्त नहीं करता है: सार्वजनिक सुरक्षा प्रणाली में उच्च सटीकता के साथ चेहरे की पहचान प्रणाली को लागू करना, जो पहले से ही अश्वेत और परिधीय आबादी के दृष्टिकोण पर केंद्रित है, केवल इस सांद्रता को तेज और चुनौती देना कठिन बनाता है।

इसलिए, लेखक 'सटीक इनकार' (precise refusal) की वकालत करती है: सार्वजनिक सुरक्षा में चेहरे की पहचान जैसी कुछ प्रक्रियाओं को अस्वीकार करना, जिससे नुकसान वास्तुकला पर निर्भर नहीं करता है, और 'कंप्यूटेशनल सुधार' (computational correction) नामक चीजों में निवेश करना: ऐसे सिद्धांतों के लिए ऑडिट करने योग्य, चुनौती देने योग्य प्रणालियाँ, जो उन आबादी की भागीदारी से बनाई गई हैं जो अभी भी केवल कच्चे माल के रूप में डेटाबेस में आती हैं।

मैरी शेली द्वारा दो शताब्दियों पहले कल्पना की गई इकाई सामग्री के कारण राक्षसी नहीं बनी, बल्कि इसलिए बनी क्योंकि किसी ने उसके लिए जिम्मेदारी लेने की इच्छा नहीं की। हमारे शहरों में बनाए गए और स्थापित किए गए डिजिटल प्राणियों - जिनके पास लोगों के भाग्य पर निर्णय लेने और प्रभाव डालने की शक्ति है - की गलतियों के प्रसार और समाधान का प्रस्ताव करना यहीं से शुरू होने वाला काम है।