बाल यौन शोषण सामग्री (CSAM) लंबे समय से मेटा प्लेटफॉर्म पर प्रसारित हो रही है। मार्क ज़करबर्ग के नेतृत्व वाली कंपनी पर इस समस्या की गंभीरता को कम आंकने और बच्चों के लिए सुरक्षा नियमों को जानबूझकर कमजोर करने का आरोप है।
बीबीसी जांच के निष्कर्ष
बीबीसी की हालिया जांच के नतीजों के अनुसार, स्थिति बिगड़ती जा रही है। पता चला है कि इंस्टाग्राम भारत में CSAM का प्रचार करने वाले सशुल्क विज्ञापनों से लाभ कमा रहा है। इसने इस समस्या को रोकने के लिए मेटा के प्रयासों में महत्वपूर्ण कमियों को उजागर किया है।
स्वचालन और उल्लंघन
इस साल की शुरुआत में मेटा ने तीसरे पक्ष के मानव मॉडरेटरों पर निर्भरता कम करने और उन्हें कृत्रिम बुद्धिमत्ता से बदलने की योजना की घोषणा की थी। हालांकि, मौजूदा एआई सिस्टम कंपनी के प्लेटफॉर्म पर अत्यधिक परेशान करने वाली सामग्री के प्रवाह को रोकने में अप्रभावी साबित हुए हैं।
बीबीसी द्वारा विश्लेषण किए गए कुछ घिनौने विज्ञापनों में 'rape video' और 'child video' जैसे शब्द थे। ये विज्ञापन टेलीग्राम पर छिपे हुए चैनलों पर ले जाते थे, जहां सामग्री मात्र 1 डॉलर में खरीदी जा सकती थी।
भारत के अधिकारियों की प्रतिक्रिया
इस खुलासे ने देश की सरकारी संरचनाओं के बीच आक्रोश पैदा कर दिया। सप्ताहांत में, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मेटा को एक नोटिस जारी किया, जिसमें CSAM की बिक्री से संबंधित सभी विज्ञापनों और सामग्री को तुरंत हटाने की मांग की गई। भारतीय प्रसारक डीडी न्यूज़ के अनुसार, मंत्रालय ने मेटा को विस्तृत स्पष्टीकरण प्रदान करने के लिए 11 जुलाई तक का समय दिया है।
कंपनियों के जवाब
जब बीबीसी ने मेटा से टिप्पणी मांगी, तो कंपनी ने कहा कि उसने कई विज्ञापनों को अक्षम कर दिया है और नीतियों के उल्लंघन के कारण संबंधित खातों को निलंबित कर दिया है। कंपनी के एक प्रतिनिधि ने उल्लेख किया कि 'कोई भी प्रणाली आदर्श नहीं है, और हमारी समीक्षा प्रक्रिया सभी नीति उल्लंघनों का पता नहीं लगा सकती है। हम लॉन्च होने के बाद विज्ञापन में सक्रिय पहचान तकनीकों का उपयोग करना जारी रखते हैं, और कोई भी हमें ऐसे विज्ञापन के बारे में बता सकता है जो उनके विचार में हमारे नियमों का उल्लंघन करता है।'
टेलीग्राम ने बीबीसी को बताया कि उसने 2026 में 'बाल यौन शोषण सामग्री से संबंधित 274,000 से अधिक समूहों और चैनलों को हटा दिया है'। इसके अलावा, फेसबुक के पूर्व उपाध्यक्ष ब्रायन बोलैंड ने कहा कि इंस्टाग्राम एल्गोरिदम लाभ को अधिकतम करने के लिए डिज़ाइन किए गए थे। उन्होंने टिप्पणी की: 'मुझे लगता है कि यह दुखद और दुखद है कि राजस्व और उपयोगकर्ता अनुभव के बीच समझौता समय के साथ बातचीत का अधिक केंद्रीय हिस्सा बन गया है।'
मुकदमेबाजी और आँकड़े
बोलैंड ने मेटा के खिलाफ मुकदमे के दौरान गवाही दी, जिसमें न्यू मैक्सिको में जूरी ने फैसला सुनाया कि कंपनी ने अपने बच्चों के लिए प्लेटफार्मों की सुरक्षा के बारे में उपयोगकर्ताओं को गुमराह किया था। मार्च में, जूरी ने फैसला सुनाया कि मेटा ने CSAM को अपने प्लेटफॉर्म पर फैलने दिया, जिससे वे प्रभावी रूप से बाल यौन शोषण के व्यापार के बाजार बन गए।
प्रमुख हॉटलाइन पर CSAM की रिपोर्टिंग के मामले में भारत दुनिया में दूसरे स्थान पर है, जिसमें संयुक्त राज्य अमेरिका के बाद 1.9 मिलियन संदेश हैं। हालांकि, यह अज्ञात है कि कितने ऐसे मामले अनदेखे रह जाते हैं।
