इंस्टाग्राम मेटा के चश्मे से रिकॉर्ड किए गए उत्पीड़न वीडियो हटाने का वादा करता है

यूट्यूब ने आर्टिफिशियल इंटेलिजेंस (एआई) की मदद से उत्पादित कम गुणवत्ता वाले वीडियो की बढ़ती मात्रा से निपटने के लिए अपने दिशानिर्देशों में बदलाव लागू किए हैं। प्लेटफॉर्म स्पष्ट करता है कि यह वीडियो बनाने में एआई के उपयोग पर प्रतिबंध नहीं लगाता है, लेकिन यह सामान्य और कम गुणवत्ता वाली सामग्री को कम करने का प्रयास करता है, खासकर वह जो मुद्रीकरण प्राप्त करने के उद्देश्य से एआई उपकरणों के साथ तेज़ी से बनाई जाती है।

सामान्य सामग्री की समस्या

इस प्रकार की सामग्री एआई की प्रगति से अत्यधिक आम हो गई है, जो 'एआई स्लॉप' मानी जाने वाली सामग्री के निरंतर प्रवाह के तेजी से उत्पादन की अनुमति देती है। इस अभ्यास को कुछ लोगों ने अतिरिक्त आय के स्रोत या डिजिटल उद्यमिता मॉडल के रूप में अपनाया है, जिससे लाभ कमाने के उद्देश्य से वीडियो बनाने के लिए एआई उपकरणों का उपयोग करने पर पाठ्यक्रमों का प्रसार हुआ है।

यह दोहराना महत्वपूर्ण है कि यूट्यूब का ध्यान तकनीक पर प्रतिबंध लगाना नहीं है, बल्कि कम गुणवत्ता वाली सामग्री से लड़ना है। अक्सर, ये वीडियो सतही तरीके से बनाए जाते हैं, जिनका उद्देश्य संवेदनशील या विवादास्पद विषयों का फायदा उठाकर सोशल मीडिया पर वायरल होना होता है, लेकिन वे उथली, गलत या भ्रामक जानकारी प्रस्तुत करते हैं।

संघर्ष की रणनीति और नए नियम

यूट्यूब के प्रतिनिधि मैट हालप्रिन ने टिप्पणी की कि हालांकि एआई रचनाकारों को उच्च स्तरीय वीडियो बनाने के लिए एक मूल्यवान उपकरण हो सकता है, यह ऐसी सामग्री बनाने की भी अनुमति देता है जो 'बहुत सामान्य है, जिसमें सुसंगत कथा नहीं है और रचनात्मकता प्रदर्शित नहीं करती है', और इसी अंतिम पहलू से निपटा जा रहा है।

अपनाई गई मुख्य रणनीति यूट्यूब पार्टनर प्रोग्राम (वाईपीपी) के नियमों में संशोधन शामिल है, जो रचनाकारों के मुद्रीकरण की संभावना निर्धारित करता है। पहले परिवर्तनों में से एक स्थापित करता है कि 'सामान्य' के रूप में वर्गीकृत सामग्री - चाहे वह एआई या कंप्यूटर ग्राफिक्स उपकरणों द्वारा जल्दी से बनाई गई हो, या जो केवल थोड़े बदलावों के साथ अन्य वीडियो की नकल करती है - उसे मुद्रीकरण नहीं मिलेगा।

मुद्रीकरण पर अतिरिक्त प्रतिबंध

इसके अलावा, प्लेटफॉर्म उन वीडियो के मुद्रीकरण को प्रतिबंधित करेगा जो भावनाओं में हेरफेर करते हैं, जैसे कि जानवरों के बचाव का अनुकरण करने वाले या आक्रोश पैदा करने और साझाकरण या लाइक बढ़ाने के लिए परेशान करने वाले दृश्य दिखाने वाले। एक तीसरा उपाय 'पर्सोना', यानी एआई द्वारा उत्पन्न वास्तविक लोगों के प्रतिनिधित्व का उपयोग करने वाले वीडियो के मुद्रीकरण को रोकने का लक्ष्य रखता है, जब वे वित्त या स्वास्थ्य जैसे संवेदनशील विषयों को संबोधित करते हैं।

हालांकि यूट्यूब पहले से ही 'एआई स्लॉप' से निपटने की कोशिश कर रहा था, मुद्रीकरण मानदंडों का अद्यतन एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, क्योंकि यह इस कम गुणवत्ता वाली सामग्री के निर्माण के पीछे वित्तीय प्रोत्साहन पर सीधे हमला करता है। यदि ये परिवर्तन प्रभावी होते हैं, तो दोहरे लाभ की उम्मीद है: उपयोगकर्ताओं को कम खराब वीडियो मिलेंगे, और प्रामाणिक और उच्च गुणवत्ता वाले सामग्री निर्माताओं के काम को प्लेटफॉर्म पर प्राथमिकता मिलेगी। वाईपीपी के इन नियमों में बदलाव 16 जुलाई को लागू हुए।

इंस्टाग्राम ने एक ऐसी सुविधा की घोषणा की थी जो किसी भी व्यक्ति को कृत्रिम बुद्धिमत्ता द्वारा बनाई गई छवियों में किसी अन्य व्यक्ति के चेहरे का उपयोग करने की अनुमति देगी। इसके लिए, पीड़ित का उपयोगकर्ता नाम ऐप में दर्ज करना पर्याप्त था, जिससे एआई द्वारा फोटो हेरफेर और परिणामों को फिर से पोस्ट करना संभव हो जाता था।

निहितार्थ और प्रारंभिक सेटिंग्स

यह नई सुविधा प्लेटफॉर्म पर सभी सार्वजनिक खातों के लिए स्वचालित रूप से सक्रिय की जाएगी। डीपफेक बनाने से बचने के लिए, उपयोगकर्ताओं के पास दो विकल्प होंगे: ऐप मेनू में कम दिखाई देने वाली एक विशिष्ट सेटिंग खोजना, या अपना खाता निजी बनाना।

मेटा का पीछे हटने का निर्णय

शुरुआत में, कार्यान्वयन का उद्देश्य मेटा के एआई क्षेत्र द्वारा विकसित एक नया छवि जनरेशन एल्गोरिथम, म्यूज इमेज (Muse Image) के उपयोग को बढ़ावा देना था। हालांकि, कंपनी के मानकों पर विचार करते हुए भी, गोपनीयता के मामले में इस प्रस्ताव को अत्यधिक माना गया। शुक्रवार (10) की रात, मेटा ने सुविधा के लॉन्च को वापस लेने का फैसला किया।

एक बयान में, कंपनी ने बदलाव का औचित्य देते हुए कहा: 'हमारा लक्ष्य एक उपयोगी रचनात्मक उपकरण प्रदान करना था, और लोगों को यह तय करने का नियंत्रण देना था कि क्या उनकी सार्वजनिक सामग्री का इस तरह संदर्भ लिया जा सकता है [उपयोग किया जा सकता है]। हमने प्रतिक्रिया सुनी कि यह सुविधा लक्ष्य से चूक गई, इसलिए यह अब उपलब्ध नहीं है।'

गोपनीयता के मुद्दों का इतिहास

यह पहला मामला नहीं है जब मेटा स्वचालित रूप से घुसपैठ करने वाली सुविधाओं को सक्रिय करता है, चाहे वह स्वीकृति को मजबूर करके हो या अपने उत्पादों और ऐप्स की उपयोग की शर्तों में विवरण छिपाकर। फरवरी में एक पिछला घोटाला हुआ था, जब केन्या स्थित सामा (Sama) के कर्मचारियों ने मेटा ग्लासेस (Meta Glasses) द्वारा कैप्चर किए गए वीडियो प्राप्त करने की सूचना दी थी। इन रिकॉर्डिंग में बैंकिंग डेटा, यौन दृश्यों या बाथरूम के क्षणों जैसे अत्यंत निजी जानकारी शामिल थी।

इस घटना के अंतरराष्ट्रीय स्तर पर बड़े पैमाने पर प्रचार के बाद, मेटा ने सामा के साथ अपना अनुबंध समाप्त कर दिया। यह अफ्रीकी कंपनी 'डेटा एनोटेशन' के कार्य के लिए एक हजार से अधिक लोगों को रोजगार देती थी; उन्हें मेटा के उपकरणों और ऐप्स द्वारा कैप्चर की गई सामग्री मैन्युअल रूप से कैप्शनिंग के लिए प्राप्त होती थी, जो मेटा के छवि पहचान एआई को प्रशिक्षित करने में उपयोग की जाने वाली प्रक्रिया थी।

मेटा ने शुक्रवार (10) को इंस्टाग्राम के भीतर एक नई आर्टिफिशियल इंटेलिजेंस (एआई) सुविधा को निलंबित कर दिया। यह कार्यक्षमता प्लेटफॉर्म की सार्वजनिक प्रोफाइल के आधार पर छवियों के निर्माण की अनुमति देती थी।

सुविधा हटाने के कारण

यह निर्णय उपकरण के लॉन्च के तुरंत बाद लिया गया था, जो उपयोगकर्ताओं, कलाकारों और मनोरंजन उद्योग के प्रतिनिधियों से आई आलोचना की एक मजबूत लहर के जवाब में था। चिंताएं गोपनीयता के मुद्दे और बिना उचित सहमति के छवियों के उपयोग पर केंद्रित थीं।

यह सुविधा कंपनी के एआई इमेज जनरेटर, म्यूज इमेज (Muse Image) के लॉन्च का हिस्सा थी, जिसे मंगलवार (7) को पेश किया गया था। मेटा के अनुसार, यह फ़ंक्शन उन सभी उपयोगकर्ताओं के लिए स्वचालित रूप से सक्रिय होता था जिनके इंस्टाग्राम पर प्रोफ़ाइल खुली होती थी। व्यवहार में, इसका मतलब था कि इन लोगों की उपस्थिति का उपयोग पूर्व प्राधिकरण के बिना एआई द्वारा छवियां बनाने के लिए किया जा सकता था।

मेटा की स्वीकृति और प्रतिक्रिया

कॉपीराइट और गोपनीयता पर शिकायतों के जवाब में, मेटा ने एक बयान जारी किया जिसमें स्वीकार किया कि उपकरण को अच्छी तरह से स्वीकार नहीं किया गया था। कंपनी ने घोषणा की कि उसका मूल इरादा एक उपयोगी रचनात्मक उपकरण प्रदान करना और लोगों को नियंत्रित करने देना था कि क्या उनकी सार्वजनिक सामग्री इस तरह संदर्भित की जाएगी। इसलिए, सुविधा को बंद कर दिया गया।

उद्योग और उपयोगकर्ताओं की प्रतिक्रिया

लॉन्च के कुछ ही समय बाद, हजारों उपयोगकर्ताओं ने अपनी छवियों के उपयोग पर अपनी चिंता व्यक्त करने के लिए सोशल मीडिया का उपयोग किया। कई लोगों ने कार्यक्षमता के उपयोग से बचने के तरीके साझा करना शुरू कर दिया, जैसे प्रोफ़ाइल को निजी बनाना या ऐप की कुछ सेटिंग्स को समायोजित करना।

इस प्रतिक्रिया ने संयुक्त राज्य अमेरिका के मनोरंजन उद्योग तक भी पहुंच बनाई। क्रिएटिव आर्टिस्ट्स एजेंसी (सीएए), हॉलीवुड की प्रमुख प्रतिभा एजेंसियों में से एक, ने अपने ग्राहकों की ओर से मेटा से संपर्क किया, और इस पहल को गैर-जिम्मेदाराना बताया। बुधवार (8) को जारी एक नोट में, सीएए ने इस बात पर जोर दिया कि कलाकारों को यह तय करने की स्वायत्तता होनी चाहिए कि उनकी छवि और काम का उपयोग कैसे और कब किया जाएगा, सहमति और अपनी शर्तों को परिभाषित करने की क्षमता की मांग की।

इसके अतिरिक्त, एसएजी-एएफटीआरए (SAG-AFTRA), संयुक्त राज्य अमेरिका का सबसे बड़ा अभिनेता संघ, ने गुरुवार (9) को घोषणा की कि मेटा द्वारा उपयोगकर्ताओं को स्वचालित रूप से सुविधा में शामिल करना एआई के उपयोग के संबंध में 'सार्वजनिक भावना के मूल्यांकन की पूरी विफलता' थी।

म्यूज इमेज की उपलब्धता और एआई संदर्भ

इंस्टाग्राम से हटाए जाने के बावजूद, मेटा ने सूचित किया कि म्यूज इमेज व्हाट्सएप और मेटा एआई एप्लिकेशन पर उपलब्ध रहता है, जो कंपनी से स्वतंत्र एक चैटबॉट के रूप में कार्य करता है। उस सप्ताह इंस्टाग्राम के लिए पेश की गई अन्य एआई कार्यक्षमताएं चालू हैं, जिसमें म्यूज इमेज द्वारा बनाए गए विशेष फिल्टर शामिल हैं।

यह घटना एआई उपकरणों से जुड़ी विवादों की एक श्रृंखला में आती है जो छवियों में हेरफेर या निर्माण करने में सक्षम हैं। ओपनएआई को पिछले साल सितंबर में वीडियो जनरेटर सोरा (Sora) लॉन्च करने के बाद कॉपीराइट पर इसी तरह के सवालों का सामना करना पड़ा था। हालांकि कंपनी ने संरक्षित सामग्री का उपयोग करने के लिए स्टूडियो के साथ समझौते किए थे, उसने मार्च में ऐप बंद कर दिया था।

एक अन्य उल्लेखित प्लेटफॉर्म एक्स (X) है, जिसने इस वर्ष महिलाओं और बच्चों की लाखों हेरफेर की गई छवियों के प्रसार के बाद चैटबॉट ग्रोक (Grok) के खाते को ब्लॉक कर दिया था, जिनमें बहुत कम या कोई कपड़े नहीं थे। गूगल जैसी कंपनियों को भी उनके एआई सिस्टम द्वारा छवियों को उत्पन्न करने के तरीके के संबंध में आलोचना का सामना करना पड़ा है।

एआई में मेटा की निरंतर रणनीति

इंस्टाग्राम पर सुविधा को निलंबित करने के बावजूद, मेटा ने आश्वासन दिया कि एआई में उसका निवेश जारी है। गुरुवार को, कंपनी ने अपने एआई मॉडल, म्यूज स्पार्क (Muse Spark) का एक नया संस्करण लॉन्च किया और आने वाले महीनों में एआई वीडियो जनरेटर उपलब्ध कराने की योजना की घोषणा की।