मेटा ने एआई की मदद से अपने प्लेटफॉर्म पर बच्चों के शोषण के खिलाफ लड़ाई को मजबूत करने की घोषणा की

कंपनी का रुख और अपराध से लड़ाई

मेटा ने बच्चों के शोषण को 'भयानक अपराध' बताया और अपने प्लेटफॉर्म के अंदर और बाहर दोनों जगह इस तरह के दुरुपयोग से लड़ने के लिए दैनिक आक्रामक काम करने की घोषणा की। कंपनी ने जोर दिया कि यह कार्य निरंतर है, और इसकी टीमें नई तकनीक विकसित करके, उल्लंघनकारी लिंक को ब्लॉक करके और उद्योग में खुफिया जानकारी साझा करके सुरक्षा प्रणालियों को लगातार बेहतर बना रही हैं। इसके साथ ही, मेटा ने उल्लेख किया कि उसे अभी भी बहुत कुछ करना है, और वह युवाओं की सुरक्षा, विज्ञापन सत्यापन में सुधार और अपराधियों को जवाबदेह ठहराने के लिए कानून प्रवर्तन एजेंसियों के साथ सहयोग के लिए आवश्यक सभी संसाधन लगाना जारी रखेगी।

भारत में घटनाओं पर प्रतिक्रिया

कंपनी ने बाल शोषण से लड़ने के लिए अपने वर्तमान कदमों का विस्तार से वर्णन किया, जिसमें एआई द्वारा पता लगाना और कानून प्रवर्तन कार्रवाई पर जोर दिया गया। मेटा ने भारत में इंस्टाग्राम विज्ञापनों से संबंधित बाल शोषण के संबंध में हालिया नीति उल्लंघनों की रिपोर्टों को स्वीकार किया और आश्वासन दिया कि वह इन समस्याओं को गंभीरता से लेती है, क्योंकि वह कभी भी अपने प्लेटफॉर्म पर ऐसी सामग्री नहीं चाहती है, और इससे निपटने के अपने प्रयासों को बेहतर बनाने का प्रयास करती है।

मेटा ने स्पष्ट रूप से इस दावे का खंडन किया कि वह अनुचित रुचि के कारण बच्चों की भागीदारी वाले विज्ञापनों को उपयोगकर्ताओं को लक्षित करती है। इसके बजाय, कंपनी संभावित रूप से संदिग्ध गतिविधि दिखाने वाले खातों की पहचान करने के लिए प्रौद्योगिकी का उपयोग करती है जो बच्चों से संबंधित है, और उसने बताया कि पिछले साल उसने स्वचालित रूप से चार मिलियन से अधिक ऐसे खातों को हटा दिया था।

कार्रवाई का पैमाना और तकनीकी समर्थन

यह उल्लेख किया गया कि मेटा ने बाल शोषण से लड़ने के लिए एआई के उपयोग को बढ़ाया है, नई प्रणालियों को लागू किया है जो उन भाषाओं को कवर करती हैं जिनमें 98 प्रतिशत उपयोगकर्ता ऑनलाइन बोलते हैं। पिछले साल वैश्विक स्तर पर चार मिलियन से अधिक संदिग्ध खातों और बाल शोषण से संबंधित 36 मिलियन सामग्रियों को हटाया गया था। भारत में, एआई उपकरणों ने पिछले छह महीनों में शोषणकारी गतिविधियों से जुड़े संदिग्ध लिंक पोस्ट करने के लिए 160,000 खातों को हटाने में मदद की।

मेटा ने यह भी बताया कि उसके कानून प्रवर्तन सिस्टम उन कई उल्लंघनकारी विज्ञापनों और उनसे जुड़े खातों का पता लगा रहे थे और उन्हें बंद कर रहे थे, इससे पहले कि इन मामलों के बारे में पता चले। बाद की जांच के परिणामस्वरूप अतिरिक्त उपायों को लागू किया गया, जिसमें अतिरिक्त विज्ञापनों को हटाना, खातों को अक्षम करना और नीति का उल्लंघन करने वाली सामग्री वाले यूआरएल को ब्लॉक करना शामिल है।

नियामक दबाव और नीतियां

टेक्नोलॉजी दिग्गज मेटा, जिसका मुख्यालय मेनलो-पार्क, कैलिफ़ोर्निया में है, लोकप्रिय सोशल नेटवर्किंग साइट्स फेसबुक, इंस्टाग्राम और व्हाट्सएप का मालिक है। कंपनी बाल शोषण की गतिविधियों का संकेत देने वाली अन्य विशेषताओं के साथ उपयोगकर्ताओं द्वारा पोस्ट किए गए संदिग्ध बाहरी लिंक का पता लगाने के लिए उन्नत एआई टूल का उपयोग करती है। पिछले छह महीनों में भारत में इससे 160,000 खातों को हटाने का परिणाम हुआ है।

इस बीच, सरकारी सूत्रों ने पीटीआई को बताया कि शनिवार को प्राप्त सूचना पर मेटा से आधिकारिक जवाब की उम्मीद है। सरकार चिंताओं को दूर करने के लिए कंपनी द्वारा किए गए सुधारात्मक उपायों और कार्रवाइयों पर ध्यान केंद्रित करेगी।

पिछले सप्ताह सरकार ने इंस्टाग्राम पर बाल यौन शोषण और दुर्व्यवहार (CSEAM) की सामग्री के संबंध में मेटा को एक सख्त नोटिस भेजा था। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इंस्टाग्राम को CSEAM तक पहुंच को बढ़ावा देने या सुविधाजनक बनाने वाले सभी विज्ञापनों और सामग्री को अक्षम करने की मांग की, और सात दिनों के भीतर एक विस्तृत स्पष्टीकरण भी मांगा।

ये कदम तब आए जब सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने MeitY के अधिकारियों को इंस्टाग्राम पर बाल यौन हिंसा की सामग्री को बढ़ावा देने वाले विज्ञापन के संबंध में मेटा को बुलाने का निर्देश दिया था। मंत्रालय द्वारा नियामक नियंत्रण बीबीसी की रिपोर्ट के मद्देनजर आया, जिसमें कहा गया था कि मेटा का सिफारिश एल्गोरिथम बाल यौन शोषण सामग्री वाले वीडियो के प्रसार में योगदान दे सकता है, जिससे सुरक्षा तंत्र में गंभीर कमियां सामने आईं।

बीबीसी की जांच में कथित तौर पर फेसबुक और इंस्टाग्राम पर इस प्रकार के विज्ञापन भी पाए गए, भले ही मेटा की विज्ञापन नीति में नग्नता और स्पष्ट यौन सामग्री पर स्पष्ट प्रतिबंध था। यह दावा किया जाता है कि इंस्टाग्राम ने 'रेप वीडियो' और 'चाइल्ड वीडियो' जैसे शब्दों वाले भुगतान किए गए विज्ञापन दिखाए, जो उपयोगकर्ताओं को टेलीग्राम चैनलों पर निर्देशित करते थे जहां ऐसी सामग्री कथित तौर पर बेची जाती थी।

मॉडरेशन तंत्र और रिपोर्टिंग

मंगलवार को अपने ब्लॉग में, मेटा ने घोषणा की कि विज्ञापन सत्यापन प्रक्रिया में उल्लंघनकारी विज्ञापनों का पता लगाने और उन्हें हटाने के लिए स्वचालित प्रणालियों को मानव समीक्षा के साथ जोड़ा जाता है, यह स्वीकार करते हुए कि कोई भी प्रणाली हर उल्लंघन का पता नहीं लगा सकती है। विज्ञापनों की प्रदर्शन से पहले जांच की जाती है और उन्हें निरंतर और आवधिक निगरानी के अधीन रखा जाता है, और उपयोगकर्ता भी कथित उल्लंघनों की रिपोर्ट कर सकते हैं।

कंपनी व्यक्तिगत विज्ञापनों के अलावा विज्ञापनदाताओं के व्यवहार पर भी नजर रखती है, और नियमों का उल्लंघन करने वाले विज्ञापनदाताओं, बिजनेस अकाउंट्स, पेजों और उपयोगकर्ता खातों के विज्ञापनों को अस्वीकार या प्रतिबंधित कर सकती है। मेटा ने जोर देकर कहा कि वह अपने विज्ञापन सत्यापन और कानून प्रवर्तन प्रणालियों को मजबूत करना जारी रखे हुए है ताकि अपने प्लेटफॉर्म से बेईमान प्रतिभागियों को बाहर किया जा सके और उपयोगकर्ताओं को बेहतर ढंग से बचाया जा सके।

इस मुद्दे के प्रति अपनी शून्य सहिष्णुता नीति पर जोर देते हुए, मेटा ने कहा कि उसके पास बाल नग्नता, दुर्व्यवहार और शोषण के खिलाफ विस्तृत और विश्वसनीय नियम हैं, जिनमें बाल शोषण से जुड़ी छवियों का प्रसार या खोज, किशोरों के साथ अनुचित संपर्क और नाबालिगों का यौनकरण शामिल है। उसके विज्ञापन मानकों के अनुसार, सभी विज्ञापनों को बाल यौन शोषण, दुर्व्यवहार और नग्नता पर मेटा के सामुदायिक मानकों का पालन करना चाहिए, और उनमें ऐसी सामग्री नहीं होनी चाहिए जो बच्चों का यौन शोषण करती हो या उन्हें खतरे में डालती हो।

मेटा राष्ट्रीय लापता और शोषित बच्चों के केंद्र (NCMEC) के माध्यम से कानून प्रवर्तन एजेंसियों को पता लगाए गए बाल शोषण के मामलों की रिपोर्ट करती है, वैश्विक और भारत-विशिष्ट पारदर्शिता रिपोर्ट प्रकाशित करती है, और भारत के आईटी नियमों के अनुसार कानूनी अनुपालन अधिकारी (मुख्य अनुपालन अधिकारी, शिकायत अधिकारी और नोड संपर्क व्यक्ति) नियुक्त करती है। कंपनी ऑनलाइन बाल शोषण से लड़ने के लिए उद्योग और कानून प्रवर्तन एजेंसियों के साथ सहयोग करती है, उद्योग के प्रयासों का समर्थन करती है और शिकारी खातों के बारे में खुफिया जानकारी साझा करने के लिए लैंटर्न टेक्नोलॉजी कोलैबोरेशन कार्यक्रम में भाग लेती है।