इंस्टाग्राम उन प्रोफाइल से निपटने के लिए नए कदम उठाएगा जो वास्तविक लोगों का प्रतिनिधित्व नहीं करते हैं, बल्कि आर्टिफिशियल इंटेलिजेंस की सहायता से विकसित अवतार हैं। प्लेटफॉर्म ऐसे खातों की दृश्यता को सीमित करने की योजना बना रहा है यदि वे उचित पहचान प्रदान नहीं करते हैं।
मेटा का सोशल नेटवर्क अपने ब्लॉग पर घोषणा करता है कि यह बदलाव पारदर्शिता बढ़ाने के निरंतर प्रयासों का हिस्सा है, और उम्मीद है कि इससे उपयोगकर्ताओं को इंस्टाग्राम पर प्रदर्शित सामग्री की उत्पत्ति को बेहतर ढंग से समझने में मदद मिलेगी।
प्लेटफॉर्म 'एआई क्रिएटर' लेबल को बदलकर 'एआई द्वारा जनरेटेड प्रोफाइल' कर देगा। यह संशोधन अन्य दिशानिर्देशों को लागू करने का आधार बनेगा। कंपनी के अनुसार, उद्देश्य यह स्पष्ट करना है कि एक प्रोफ़ाइल में एआई द्वारा बनाई गई व्यक्तित्व है न कि कोई इंसान।
इस नए टैग की शुरूआत के साथ एक अतिरिक्त नीति स्थापित की जाएगी: इंस्टाग्राम उन प्रोफाइलों की पहुंच को सीमित करेगा जो उचित रूप से पहचान किए बिना एआई द्वारा बनाए गए मानव आकृतियों का उपयोग करते हैं। नतीजतन, ये प्रोफ़ाइल उन उपयोगकर्ताओं को सुझाए जाने बंद हो जाएंगे जो उन्हें फॉलो नहीं करते हैं। इन खातों के मालिकों के पास इस निर्णय को चुनौती देने का विकल्प होगा।
नया पदनाम 'एआई द्वारा जनरेटेड प्रोफाइल' उन सभी प्रोफाइलों पर स्वचालित रूप से लागू किया जाएगा जिनके पास पहले 'एआई क्रिएटर' बैज था। हालांकि, इंस्टाग्राम उस बैज को हटाने का विकल्प प्रदान करता है यदि प्रोफ़ाइल में कोई प्रामाणिक इंसान मौजूद है।
एआई द्वारा बनाए गए इन्फ्लुएंसर्स सोशल मीडिया पर प्रमुखता प्राप्त कर रहे हैं। एमिली पेलेग्रिनी और आयताना लोपेज़ जैसी हस्तियां वास्तविक लोगों के रूप में कार्य करती हैं, जो परिष्कृत रेस्तरां, त्योहारों और खेल आयोजनों में सेट किए गए वीडियो पोस्ट करती हैं। हालांकि, यह समस्या का केवल एक पहलू है।
इंस्टाग्राम द्वारा उठाए गए कदम महीनों बाद आते हैं जब रिपोर्टों ने उजागर किया कि कैसे एआई द्वारा बनाए गए अवतारों का उपयोग नेटवर्क पर उत्पादों का प्रचार करने के लिए किया जा रहा है। हालांकि डीपफेक नई बात नहीं है, लेकिन वे पहले से कहीं अधिक यथार्थवादी हो गए हैं और उनका निर्माण पहले से कहीं अधिक सुलभ है।
गार्डियन द्वारा किए गए एक जांच में इस प्रकार के प्रोफाइल को ऐप्स और कपड़ों के ब्रांडों का प्रचार करते हुए पाया गया, जिसमें सामग्री विज्ञापन होने का कोई संकेत नहीं था।
इसके अतिरिक्त, न्यूयॉर्क टाइम्स ने सैकड़ों एआई-जनरेटेड पर्सोना की खोज की जो सप्लीमेंट्स और दवाओं का प्रचार करने के लिए डॉक्टरों और इन्फ्लुएंसर्स के रूप में भेष बदल रहे थे, और पारंपरिक उपचारों पर श्रेष्ठता का वादा कर रहे थे। ये अभियान विशेष रूप से स्वास्थ्य समस्याओं वाली बुजुर्ग महिलाओं को लक्षित करते हैं।
उसी अखबार ने वास्तविक इन्फ्लुएंसर्स को भी ढूंढा जिन्होंने दिखाया कि ये अभियान कैसे तैयार किए जाते हैं, साथ ही एक चीनी कंपनी भी खोजी जिसने तकनीकी सहायता से इस प्रकार की सामग्री का उत्पादन करने में विशेषज्ञता हासिल की है।