मेटा ने दो महिलाओं, जिसमें एक ब्रिटिश राजनेता भी शामिल हैं, को लक्षित करने वाली कृत्रिम बुद्धिमत्ता द्वारा बनाए गए वीडियो सामग्री को हटाने का निर्णय लिया है, क्योंकि निगरानी बोर्ड ने कंपनी के डीपफेक प्रसार के खिलाफ सुरक्षा उपायों की आलोचना करते हुए उन्हें 'मौलिक रूप से अपर्याप्त' बताया है।
इससे पहले, गुरुवार को निगरानी बोर्ड, जो कंपनी द्वारा वित्त पोषित एक अर्ध-स्वतंत्र निकाय है और मॉडरेशन निर्णयों की समीक्षा करता है, ने मेटा से अपने प्लेटफॉर्म से मनगढ़ंत वीडियो हटाने की मांग की। बोर्ड ने टिप्पणी की कि इस तरह के मामले नफरत भड़काने, दुष्प्रचार और उत्पीड़न के संबंध में मेटा की अपनी नीतियों को कमजोर करते हैं।
एआई द्वारा उत्पन्न पहले वीडियो में स्कॉटलैंड की लेबर पार्टी के एक सदस्य को दिखाया गया था जो शरणार्थियों के बारे में उत्तेजक बयान दे रहा था। राजनीतिज्ञ के बयानों की पुष्टि करने वाले कोई सार्वजनिक रिकॉर्ड मौजूद नहीं थे, और वीडियो में ऑडियो सहित स्पष्ट रूप से नकली होने के संकेत थे, जो उसके चेहरे की गतिविधियों के साथ सिंक्रनाइज़ नहीं था।
दूसरा मनगढ़ंत वीडियो यूरोप में एक मुस्लिम कार्यकर्ता के खिलाफ निर्देशित था। इसका उद्देश्य उसे स्वास्थ्य रक्षक के रूप में उसकी भूमिका को बदनाम करना था, जिसमें उसे फास्ट फूड खाते हुए, सचेत पोषण पर सलाह देते हुए और बेतुके व्यायाम करते हुए गलत तरीके से चित्रित किया गया था।
बोर्ड ने कहा कि मेटा की नीतियां फेसबुक और इंस्टाग्राम पर एआई द्वारा बनाई गई सामग्री की बढ़ती धारा का मुकाबला करने के लिए 'लगातार और मौलिक रूप से अपर्याप्त' हैं।
निगरानी बोर्ड के सह-अध्यक्ष पैमेला सान मार्टिन ने अपने बयान में कहा: 'राजनेताओं से लेकर निजी नागरिकों तक, एआई द्वारा बनाए गए डीपफेक का उपयोग महिलाओं को निशाना बनाने और चुप कराने के लिए तेजी से किया जा रहा है जो सार्वजनिक चर्चा में भाग लेती हैं।' उन्होंने आगे कहा कि 'ये मामले एक व्यापक, चिंताजनक पैटर्न को दर्शाते हैं जहां सार्वजनिक रूप से मुद्दों पर काम करने वाली महिलाओं को असमान रूप से निशाना बनाया जाता है और दुष्प्रचार का सामना करना पड़ता है।'
व्यक्तिगत मामलों पर निगरानी बोर्ड के निर्णय मेटा के लिए बाध्यकारी हैं, लेकिन इसकी व्यापक नीतिगत सिफारिशों में इतनी शक्ति नहीं होती है।
मेटा ने दोनों मामलों पर बोर्ड के निर्णय का समर्थन किया और सात दिनों के भीतर इसे पूरा करने के लिए सहमति व्यक्त की। सान मार्टिन ने इस बात पर जोर दिया कि 'डीपफेक के प्रसार से लड़ने के लिए मेटा और अन्य सोशल मीडिया प्लेटफॉर्मों को अधिक मजबूत नीतियों की आवश्यकता है, जिसमें भ्रामक सामग्री को लेबल करने के लिए कहीं अधिक मजबूत दृष्टिकोण, उल्लंघनकर्ताओं के लिए सख्त दंड और निजी व्यक्तियों को निशाना बनाने वाले डीपफेक को हटाना शामिल है।'
पिछले सप्ताह बोर्ड ने मेटा से आग्रह किया कि वह झूठी जानकारी का खंडन करने के लिए 'कम्युनिटी नोट्स' (सामुदायिक नोट्स) सुविधा को पेशेवर तथ्य-जांच से प्रतिस्थापित न करे - यह मॉडल सामूहिक भागीदारी पर आधारित है, जो एलोन मस्क के अरबपति द्वारा लोकप्रिय प्लेटफॉर्म X पर झूठी जानकारी का खंडन करने के लिए शुरू हुआ था। यह आग्रह तब आया जब मेटा ने अपनी तथ्य-जांच कार्यक्रम को बदलने के हिस्से के रूप में 16 स्पेनिश भाषी लैटिन अमेरिकी देशों में 'कम्युनिटी नोट्स' का परीक्षण शुरू करने की घोषणा की थी।