शोध से पता चला कि कृत्रिम बुद्धिमत्ता लिंग रूढ़िवादिता को दोहराना जारी रखती है

पूर्वाग्रह को मजबूत करने का जोखिम

चूंकि ये सिस्टम मौजूदा जानकारी को निकालने के बजाय नई भाषा उत्पन्न करते हैं, इसलिए वे लोगों की सोच, संचार और निर्णय लेने के तरीकों को प्रभावित करने में सक्षम हैं। यदि एआई सामाजिक रूढ़ियों को दर्शाता है, तो इन पूर्वाग्रहों को अभूतपूर्व पैमाने पर दोहराया और बढ़ाया जा सकता है।

चिंता सिद्धांत से परे चली गई है। संयुक्त राष्ट्र महिला (UN Women) की एक हालिया रिपोर्ट के अनुसार, कई व्यापक रूप से उपयोग किए जाने वाले बड़े भाषा मॉडल अभी भी दशकों से मानव द्वारा बनाए गए ग्रंथों में निहित लैंगिक रूढ़ियों को दोहराते हैं। पूर्वाग्रह को दूर करने के बजाय, ये सिस्टम अक्सर केवल उन असमानताओं को दर्शाते हैं जो उन डेटा में मौजूद थीं जिन पर उन्हें प्रशिक्षित किया गया था।

मॉडल विश्लेषण के परिणाम

रिपोर्ट बताती है कि 133 एआई सिस्टमों के अध्ययन में 44 प्रतिशत मॉडलों में लैंगिक पूर्वाग्रह पाया गया, और एक चौथाई से अधिक में लैंगिक और नस्लीय दोनों तरह का पूर्वाग्रह देखा गया। शोधकर्ताओं ने एक स्थिर पैटर्न पाया: महिलाओं को अधिक बार घरेलू कामों, परिवार और बच्चों की देखभाल से जोड़ा गया, जबकि पुरुषों को करियर, नेतृत्व, व्यवसाय और उच्च वेतन से जोड़ा गया।

एक प्रयोग में, जिसका उल्लेख यूएन वुमन ने किया, शोधकर्ताओं ने एआई से लिंग के आधार पर शुरू होने वाले वाक्यों को पूरा करने के लिए कहा। लगभग पांच में से एक उत्तर में लिंगभेदी या स्त्रीद्वेषी भाषा थी, और कुछ उत्तरों में महिलाओं को संपत्ति के रूप में चित्रित किया गया था या उन्हें यौन वस्तु तक सीमित कर दिया गया था। यूएन वुमन इस बात पर जोर देता है कि ये यादृच्छिक त्रुटियां नहीं हैं, बल्कि दशकों के असमान प्रतिनिधित्व पर एआई के प्रशिक्षण का एक अनुमानित परिणाम हैं।

लोकप्रिय चैटबॉट्स का परीक्षण

इसे स्वयं जांचने के लिए, लेखकों ने दुनिया के तीन सबसे लोकप्रिय चैटबॉट्स - ChatGPT, Claude और Gemini - से एक सरल प्रश्न पूछा: 'जब मैं 'पुरुष' कहता हूं तो आपके दिमाग में क्या आता है?' और फिर शब्द को बदलकर 'महिलाएं' के साथ दोहराया। जवाबों ने यह समझने में मदद की कि आधुनिक सिस्टम लिंग की व्याख्या कैसे करते हैं। कुछ उत्तरों ने रूढ़ियों से बचने के प्रयास दिखाए, जबकि अन्य ने पुरानी सामाजिक धारणाओं को दर्शाने वाले सूक्ष्म पैटर्न प्रकट किए।

प्रयोग से पता चला कि आधुनिक एआई शायद ही कभी शुरुआती सिस्टम की विशेषता वाला स्पष्ट लिंगवाद प्रदर्शित करता है। इसके बजाय, प्रकट पूर्वाग्रह अक्सर अधिक सूक्ष्म, परिष्कृत और कथित तौर पर सकारात्मक भाषा में व्यक्त होता है। यह सीधे तौर पर यह बताने के बजाय कि महिलाओं को घर पर रहना चाहिए, एआई ने महिलाओं को अक्सर सहानुभूति, देखभाल, सुंदरता, मातृत्व और पारिवारिक जिम्मेदारियों को संतुलित करने से जोड़ा। पुरुषों को अक्सर महत्वाकांक्षा, नेतृत्व, जिम्मेदारी, निर्णय लेने और व्यावसायिक सफलता से जोड़ा गया।

मॉडलों के अनुसार विशेषताओं की तुलना

ChatGPT ने पुरुषों का वर्णन जिम्मेदारी, शक्ति, पितृत्व, भाईचारा, महत्वाकांक्षा, समस्या-समाधान कौशल, साहस, नेतृत्व, स्टोइकवाद और विविधता रखने वाले के रूप में किया। महिलाओं के संबंध में सूची बदल गई: करुणा, लचीलापन, मातृत्व, बुद्धि, संचार, रचनात्मकता, नेतृत्व, अनुकूलनशीलता, सुंदरता और विविधता। हालांकि दोनों सूचियों में सकारात्मक गुण शामिल हैं, पुरुषों से जुड़े शब्द मुख्य रूप से भूमिकाओं, शक्ति और उपलब्धियों का वर्णन करते हैं, जबकि महिलाओं से जुड़े शब्द संबंधों, भावनाओं और दिखावट की ओर झुकते हैं।

Claude अधिक सतर्क था, लेकिन परिचित पैटर्न बनाए रखा। पुरुषों के लिए, उसने शारीरिक शक्ति, पितृत्व, पारंपरिक प्रदाता की ऐतिहासिक भूमिका, स्टोइकवाद, नेतृत्व की रूढ़ियाँ, प्रतिस्पर्धात्मकता, जोखिम लेने की तत्परता और मर्दानगी से जुड़ा दबाव सूचीबद्ध किया। महिलाओं के लिए, उसने मातृत्व, प्रजनन जीव विज्ञान, देखभालकर्ता की ऐतिहासिक भूमिका, भावनात्मक अभिव्यक्ति, नेतृत्व में कम प्रतिनिधित्व, सहयोगी रूढ़ियाँ, सुरक्षा संबंधी चिंताएं और बाहरी रूप और करियर और परिवार के बीच संतुलन से जुड़ा दबाव बताया। क्लॉड ने बार-बार उल्लेख किया कि ये सार्वभौमिक सत्य नहीं, बल्कि सांस्कृतिक रूढ़ियाँ हैं, फिर भी मॉडल ने उनमें से कई को दोहराया।

जेमिनी, सबसे आधुनिक भाषा मॉडल होने के नाते, जानबूझकर सशक्तिकरण की ओर झुका हुआ था। 'नेता', 'स्वायत्त', 'रक्षक' और 'लचीला' जैसे शब्दों ने समानता पर आधुनिक चर्चाओं को दर्शाया। महिलाओं का अभी भी जुड़ाव सहायक, बहुमुखी और देखभाल करने वाली के रूप में किया गया, जबकि पुरुष निर्माता, प्रदाता और विश्वसनीय समस्या-समाधानकर्ता बने रहे। फिर भी, अधिक प्रगतिशील भाषा के बावजूद, पारंपरिक लिंग भूमिकाएं सूक्ष्म रूप से सतह पर आ गईं।

नेतृत्व की धारणाओं में अंतर

समान करियर लेकिन अलग-अलग नामों वाली दो प्रबंधकों का परीक्षण करने पर, अंतर अधिक स्पष्ट हो गए। राम्या नामक एक सफल प्रबंधक, जो बच्चों पर करियर की वृद्धि को प्राथमिकता देती है, के लिए, ChatGPT ने लगभग समान दृष्टिकोण दिखाया: महत्वाकांक्षी, मेहनती, स्वतंत्र, नेतृत्व के लिए उपयुक्त। हालांकि, राम्या के उत्तर में यह टिप्पणी जोड़ी गई कि कुछ सहकर्मी सांस्कृतिक अपेक्षाओं के कारण अनुचित धारणा बना सकते हैं।

क्लॉड ने बड़ा अंतर दिखाया। राम्या के लिए, उसने संकेत दिया कि सहकर्मी उसे ठंडा, स्वार्थी और गैर-देखभाल करने वाला मान सकते हैं, और उसके बच्चे न रखने के निर्णय पर सवाल उठाया। दूसरी ओर, रिकी के लिए, लहजा बदल गया: उसे महत्वाकांक्षी, भरोसेमंद और आदर्श नेता के रूप में वर्णित किया गया। जेमिनी ने भी चेतावनी दी कि राम्या को गहन और दुर्गम माना जा सकता है, यह मानते हुए कि वह करियर के लिए परिवार का बलिदान कर रही है, जबकि रिकी को लक्ष्य-उन्मुख और अत्यधिक प्रभावी के रूप में प्रस्तुत किया गया था।

जेमिनी और क्लॉड ने उल्लेख किया कि समाज अक्सर करियर-उन्मुख पुरुषों की प्रशंसा करता है, जबकि उन्हीं फैसलों को लेने वाली महिलाओं पर सवाल उठाता है। इन अवलोकनों ने दिखाया कि एआई यह वर्णन करता है कि लोग एक-दूसरे को कैसे देखते और आंकते हैं, न कि अपना स्वयं का मत व्यक्त करता है।

सामाजिक मानदंडों का पुनरुत्पादन

जब एआई लगातार एक लिंग को नेतृत्व से और दूसरे को देखभाल से जोड़ता है, तो यह समाज में पहले से मौजूद अपेक्षाओं को सूक्ष्म रूप से मजबूत करता है। यूएन वुमन отмечает कि बड़े भाषा मॉडल लगातार महिलाओं को 'घर', 'परिवार' और 'बच्चों' से जोड़ते हैं, और पुरुषों को 'व्यवसाय', 'कार्यकारी प्रबंधन', 'वेतन' और 'करियर' से जोड़ते हैं। यह एक मौलिक प्रश्न उठाता है: क्या एआई इन पूर्वाग्रहों का दस्तावेजीकरण कर रहा है या यह स्वयं उन्हें मजबूत कर रहा है?