एलन मस्क के स्वामित्व वाले प्लेटफॉर्म X पर बाल यौन शोषण सामग्री प्रदर्शित होती रही है, जैसा कि कैनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन और द न्यूयॉर्क टाइम्स द्वारा किए गए जांचों से पता चला है। इन जाँचों में अधिकारियों द्वारा पहले से ज्ञात सामग्री के साथ-साथ चैटबॉट ग्रोक द्वारा बनाई गई यौन सामग्री भी पाई गई।
निष्कर्ष बताते हैं कि प्लेटफॉर्म अवैध सामग्री को हटाने की क्षमता में खामियां हैं। दोनों विश्लेषण नमूनाकरण के माध्यम से किए गए थे, क्योंकि X सोशल नेटवर्क के पूर्ण डेटा तक पहुंच पर प्रतिबंध लगाता है।
कैनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन की खोजें
कैनेडियन सेंटर फॉर चाइल्ड प्रोटेक्शन ने 65 ऐसे मामले पहचाने जहां ग्रोक ने बच्चों की शोषणकारी या यौन रूप से उत्तेजक छवियां बनाईं। इन मामलों में, अधिकारियों द्वारा पहले से सूचीबद्ध बाल यौन शोषण के शिकार लोग भी शामिल थे। इसके अलावा, शोधकर्ताओं ने चैटबॉट से ज्ञात पीड़ितों की तस्वीरों को अंतरंग कपड़ों या बिकनी में बदलने का अनुरोध दर्ज किया।
ये घटनाएं तब हुईं जब X ने सार्वजनिक प्रतिक्रिया के बाद इस प्रकार की छवि बनाने वाले बॉट की कार्यक्षमता निलंबित कर दी थी। दिसंबर और जनवरी के महीनों में, X पर ग्रोक खाते ने उपयोगकर्ताओं के अनुरोधों के जवाब में नग्न लोगों की लाखों छवियां बनाई थीं।
सेंटर फॉर काउंटरिंग डिजिटल हेट के सीईओ इमरान अहमद ने इन निष्कर्षों को 'मेरे जीवन की सबसे बड़ी कॉर्पोरेट विफलताओं में से एक' बताया।
द न्यूयॉर्क टाइम्स द्वारा किया गया विश्लेषण
दूसरी ओर, द न्यूयॉर्क टाइम्स ने जनवरी और जून के बीच अपनी खुद की जांच की। एक कंप्यूटर प्रोग्राम का उपयोग करते हुए, टीम ने छवियों को प्रदर्शित किए बिना शोषण सामग्री से जुड़े शब्दों की खोज की। पाए गए लिंक की पुष्टि करने के लिए उन्हें माइक्रोसॉफ्ट की एक सेवा को भेजा गया कि वे बाल संरक्षण संस्थाओं द्वारा पहले से पहचाने गए फ़ाइलों से मेल खाते हैं या नहीं।
इस खोज के परिणामस्वरूप 75 से अधिक छवियों का पता चला। हालांकि सभी को रिपोर्ट के बाद हटा दिया गया था, उनमें से कुछ को सैकड़ों बार देखा गया था। सबसे चिंताजनक पहलू उन फाइलों की उपस्थिति थी जो पहले से ही अधिकारियों के ज्ञान में थीं, जबकि पत्रकार द्वारा खोजी गई छवियों का लगभग एक तिहाई हिस्सा प्रौद्योगिकी कंपनियों द्वारा पूर्व-पहचाने गए शोषण सामग्री का पता लगाने और हटाने के लिए उपयोग की जाने वाली सूची का हिस्सा था।
X का रुख और कार्रवाई
दोनों विश्लेषणों से प्राप्त परिणामों के बीच, X ने घोषणा की कि वह बाल यौन शोषण सामग्री की पहचान करने के लिए स्वचालित फिल्टर और मालिकाना तकनीक का उपयोग करता है। कंपनी ने कहा: 'हम नाबालिगों की सुरक्षा की अपनी जिम्मेदारी को गंभीरता से लेते हैं।' इसके अतिरिक्त, X ने घोषणा की कि उसके पास बाल यौन शोषण सामग्री के खिलाफ शून्य सहिष्णुता नीति है, जिसमें कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न सामग्री भी शामिल है।
कंपनी ने यह भी सूचित किया कि वह ऐसे कंटेंट को प्रकाशित करने या उसके साथ इंटरैक्ट करने वाले उपयोगकर्ताओं पर प्रतिबंध लगाती है और इसकी रिपोर्ट अधिकारियों को करती है। X के अनुसार, पिछले महीने 780 हजार उपयोगकर्ताओं की रिपोर्ट की गई, और इस वर्ष नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन को 1.3 मिलियन छवियां भेजी गईं।
मस्क ने 2022 में पुराने ट्विटर का अधिग्रहण किया और इस सामग्री को हटाने को 'प्राथमिकता संख्या 1' बनाया। जनवरी में, उन्होंने आश्वासन दिया कि जो उपयोगकर्ता बाल यौन शोषण की छवियां बनाने के लिए ग्रोक का उपयोग करेंगे, उन पर वही प्रतिबंध लगाए जाएंगे जो गैर-एआई सामग्री साझा करने वालों पर लागू होते हैं, जिसमें संभावित प्रतिबंध भी शामिल है।
जांचें X द्वारा लागू किए गए उपायों की प्रभावशीलता पर सवाल उठाती हैं, क्योंकि अधिकारियों द्वारा पहले से पहचानी गई फाइलें प्लेटफॉर्म पर फिर से दिखाई दीं, और ग्रोक का उपयोग बच्चों से जुड़ी नई सामग्री बनाने के लिए किया गया था।