आर्टिफिशियल इंटेलिजेंस के क्षेत्र में गोपनीयता पर बहस तब तेज हो गई जब गूगल और मेटा ने प्रदर्शित किया कि उपयोगकर्ताओं के डेटा का उपयोग एआई मॉडल को परिष्कृत करने के लिए कैसे किया जा सकता है। अब यह समस्या केवल खोज प्रश्नों तक ही सीमित नहीं है; एआई विकसित करने वाली कंपनियाँ उन डेटा में बढ़ती रुचि दिखा रही हैं जो उपयोगकर्ता अपनी सेवाओं के साथ इंटरैक्ट करते समय उत्पन्न करते हैं, जिसमें चैट, तस्वीरें, वॉयस रिकॉर्डिंग, दस्तावेज़ और खोज गतिविधि शामिल है।
गूगल ने 26 मई को नई सर्च सर्विस हिस्ट्री सेटिंग्स लागू करना शुरू कर दिया, जिससे खोज गतिविधि के प्रबंधन को इंटरनेट और ऐप गतिविधि की पुरानी सेटिंग्स से अलग कर दिया गया। इस नई प्रणाली के अनुसार, खोज, मैप्स, ट्रांसलेटर, न्यूज़ और लेंस जैसी सेवाओं में उपयोग की जाने वाली छवियां, ऑडियो रिकॉर्डिंग, वीडियो और फ़ाइलें संग्रहीत की जा सकती हैं और संभावित रूप से एआई सिस्टम को बेहतर बनाने के लिए उपयोग की जा सकती हैं, बशर्ते उपयोगकर्ता संबंधित विकल्प को अक्षम न करे। गूगल ने बताया कि यह रोलआउट अगले कुछ महीनों तक जारी रहेगा।
जुलाई 2026 के पहले सप्ताह में मेटा के एआई टूल ध्यान आकर्षित करने वाले थे। कंपनी ने अपने फीचर्स का विस्तार किया, जिसमें म्यूज इमेज शामिल है, जो इंस्टाग्राम से उपयुक्त सार्वजनिक तस्वीरों का उपयोग करके एआई-जनरेटेड छवियां बना सकता है, यदि उपयोगकर्ता इससे इनकार नहीं करते हैं।
गूगल इन परिवर्तनों का बचाव करते हुए दावा करता है कि वे उपयोगकर्ताओं को वैयक्तिकरण और खोज इतिहास की सेटिंग्स पर 'अधिक नियंत्रण' प्रदान करते हैं। कंपनी ने जोर देकर कहा कि उपयोगकर्ता सर्च सर्विस हिस्ट्री को पूरी तरह से निष्क्रिय कर सकते हैं या चुन सकते हैं कि छवियों, फ़ाइलों और ऑडियो रिकॉर्डिंग को सहेजना है या नहीं। गूगल ने एक आधिकारिक सहायता दस्तावेज़ में कहा: 'हम आपकी गोपनीयता को गंभीरता से लेते हैं और हमारे एआई मॉडल को प्रशिक्षित करने के लिए आपके सर्च सर्विस हिस्ट्री डेटा का उपयोग करते समय इसकी सुरक्षा के लिए कदम उठा रहे हैं।'
वहीं, मेटा का तर्क है कि इसकी एआई सुविधाएँ उपयोगकर्ताओं को चित्र बनाने और संपादित करने में मदद करने के लिए डिज़ाइन की गई हैं, और लोग अपनी प्लेटफॉर्म पर उपलब्ध गोपनीयता प्रबंधन उपकरणों के माध्यम से संबंधित एआई सेटिंग्स को प्रबंधित कर सकते हैं। मेटा ने बताया: 'आप किसी भी समय अपनी पूरी प्रोफ़ाइल के लिए रील्स, फीड वीडियो और तस्वीरों के पुन: उपयोग को बंद या अनुमति दे सकते हैं।'
यह व्यापक समस्या केवल गूगल और मेटा तक ही सीमित नहीं है। ओपनएआई का चैटजीपीटी कई उपभोक्ता खातों की बातचीत का उपयोग मॉडल को बेहतर बनाने के लिए कर सकता है, बशर्ते उपयोगकर्ता संबंधित प्रशिक्षण सेटिंग्स को अक्षम न करें। माइक्रोसॉफ्टCopilot सेवाओं को बेहतर बनाने के लिए प्रॉम्प्ट, दस्तावेज़ और उपयोग डेटा एकत्र करता है, हालांकि वाणिज्यिक ग्राहकों को अधिक मजबूत सुरक्षा मिलती है। इसके अलावा, एंथ्रोपिक का क्लॉड और xAI का Grok भी उनकी गोपनीयता सेटिंग्स और ऑप्ट-आउट क्षमताओं के आधार पर उपभोक्ताओं की कुछ इंटरैक्शन और अपलोड का उपयोग मॉडल को बेहतर बनाने के लिए कर सकते हैं।
सेवा के लिए भुगतान करना हमेशा यह गारंटी नहीं देता है कि डेटा का उपयोग नहीं किया जाएगा। उपभोक्ता सब्सक्रिप्शन मुख्य रूप से अतिरिक्त सुविधाएँ और उच्च उपयोग सीमाएँ प्रदान करते हैं। सबसे सख्त प्रतिबंध आमतौर पर कॉर्पोरेट, शैक्षिक और वाणिज्यिक योजनाओं में होते हैं, जहां प्रदाता ग्राहकों के डेटा पर मॉडल को प्रशिक्षित न करने के लिए संविदात्मक दायित्व लेते हैं।
गोपनीयता विशेषज्ञ उन उपयोगकर्ताओं को सलाह देते हैं जो एआई प्रशिक्षण से चिंतित हैं, कि वे मानक सेटिंग्स पर भरोसा करने के बजाय अपनी सेटिंग्स की जाँच करें। गूगल सेवाओं में इसका मतलब सर्च सर्विस हिस्ट्री, इंटरनेट और ऐप गतिविधि सेटिंग्स और ऑटो-डिलीट सेटिंग्स की जाँच करना है। चैटजीपीटी के उपयोगकर्ता 'चैट हिस्ट्री और ट्रेनिंग' को अक्षम कर सकते हैं यदि वे नहीं चाहते कि उनकी बातचीत का उपयोग मॉडल को बेहतर बनाने के लिए किया जाए। मेटा के उपयोगकर्ताओं को इंस्टाग्राम और मेटा एआई की गोपनीयता सेटिंग्स की जाँच करनी चाहिए और जहाँ संभव हो, सार्वजनिक तस्वीरों का उपयोग करने वाली एआई सुविधाओं को अस्वीकार करना चाहिए। क्लॉड के उपयोगकर्ता सेटिंग्स में डेटा नियंत्रणों की जाँच कर सकते हैं और यदि कोई विकल्प उपलब्ध है तो मॉडल सुधार में भागीदारी को अक्षम कर सकते हैं, और Grok के उपयोगकर्ताओं को X पर गोपनीयता सेटिंग्स की समीक्षा करनी चाहिए और संवेदनशील व्यक्तिगत जानकारी साझा करने से बचना चाहिए।
विभिन्न अवसरों के लिए बायोडाटा भेजते और दस्तावेजों को अनुकूलित करते समय, उम्मीदवार अक्सर देखते हैं कि प्राप्त उत्तर समान होते हैं। स्टैनफोर्ड विश्वविद्यालय द्वारा किए गए एक शोध से पता चलता है कि यह समानता संयोग नहीं हो सकती है।
शोधकर्ताओं ने लाखों आवेदनों का विश्लेषण किया और निष्कर्ष निकाला कि विभिन्न कंपनियां ऐसे आर्टिफिशियल इंटेलिजेंस सिस्टम का उपयोग कर सकती हैं जो समान स्वीकृति और अस्वीकृति मानदंड दोहराते हैं। 'एल्गोरिथमिक मोनोकल्चर इन हायरिंग' नामक इस शोध में 11 आर्थिक क्षेत्रों की 156 कंपनियों द्वारा 3.4 मिलियन से अधिक व्यक्तियों द्वारा जमा किए गए लगभग 4 मिलियन आवेदनों की जांच की गई।
पहचाना गया एक महत्वपूर्ण कारक यह था कि ये सभी संगठन एक ही प्रदाता द्वारा प्रदान किए गए एल्गोरिदम का उपयोग कर रहे थे। इस विवरण ने 'एल्गोरिथमिक मोनोकल्चर' नामक घटना की पहचान करने में मदद की, जो कृषि से प्रेरित शब्द है, जहां विशाल क्षेत्र केवल एक प्रकार की फसल के लिए समर्पित होते हैं। जब कई कंपनियां समान उपकरणों को अपनाती हैं, तो यह संभावना बढ़ जाती है कि वे मूल रूप से समान तर्क का पालन करते हुए उम्मीदवारों का मूल्यांकन करेंगे, जो मॉडल की अंतर्निहित सफलताओं और विफलताओं दोनों पर लागू होता है।
एक अन्य प्रासंगिक खोज समान उम्मीदवार प्रोफाइल से संबंधित है। अध्ययन के अनुसार, समान विशेषताओं वाले व्यक्तियों को अलग-अलग निगमों में नौकरियों के लिए प्रतिस्पर्धा करते समय भी सुसंगत मूल्यांकन प्राप्त होने की प्रवृत्ति होती है। प्राथमिक परिणाम बताते हैं कि चार चयन प्रक्रियाओं में भाग लेने वाले लगभग 10% उम्मीदवारों को उन सभी में अस्वीकार कर दिया जाता है। इसके अतिरिक्त, दस नौकरियों के लिए आवेदन करने वालों में से लगभग 4% लगातार दस अस्वीकृतियाँ झेलते हैं।
इन अस्वीकृतियों की आवृत्ति स्वतंत्र रूप से लिए गए निर्णयों में अपेक्षित आवृत्ति से अधिक होती है। यह ध्यान देने योग्य है कि कई बायोडाटा मानव भर्तीकर्ता द्वारा जांचे जाने से पहले ही हटा दिए जाते हैं। यह पुष्टि करने के लिए कि क्या यह व्यवहार यादृच्छिक था, शोधकर्ताओं ने डेटा की तुलना एक सैद्धांतिक आधार रेखा और एल्गोरिथम केंद्रीकरण के बिना भर्ती पर पिछले अध्ययनों से की, जिससे पता चला कि लगातार अस्वीकृतियाँ विभिन्न चयन प्रक्रियाओं के बीच एक सामान्य पैटर्न को दर्शाती हैं।
किए गए सिमुलेशन के अनुसार, बायोडाटा भेजना जारी रखना अभी भी फायदेमंद है। अध्ययन इंगित करता है कि आवेदन की मात्रा बढ़ाने से अवसर प्राप्त करने की संभावना में सुधार होता है, हालांकि यह लाभ कम हो जाता है जब कंपनियां समान सिस्टम का उपयोग करती हैं। एक ऐसे परिदृश्य में जहां निर्णय स्वायत्त होते हैं, कम से कम एक सकारात्मक सिफारिश प्राप्त करने की उच्च संभावना तक पहुंचने के लिए लगभग दस आवेदन पर्याप्त होंगे। हालांकि, जब प्रक्रियाएं केंद्रीकृत प्लेटफार्मों द्वारा मध्यस्थ होती हैं, तो 99.9% की संभावना सुनिश्चित करने के लिए यह संख्या बढ़कर लगभग 25 आवेदन हो जाती है।
लेखकों ने भर्ती के लिए लक्षित प्रौद्योगिकी बाजार के केंद्रीकरण पर भी एक चेतावनी जारी की है। चूंकि कुछ ही आपूर्तिकर्ता कई कंपनियों को सेवा प्रदान करते हैं, इसलिए मौजूद कोई भी पूर्वाग्रह या सीमा तेजी से फैल सकती है। इसके अलावा, इन प्लेटफार्मों की कम पारदर्शिता स्वतंत्र शोध को मुश्किल बनाती है और यह समझने को जटिल बनाती है कि ऐसे उपकरण रोजगार तक पहुंच को कैसे प्रभावित करते हैं, जबकि कई उम्मीदवारों के लिए, यह पूरी प्रक्रिया तब होती है जब वे यह नहीं जानते कि किसी एल्गोरिथम ने बायोडाटा का पहला विश्लेषण किया है।
