चीन ने एआई प्लेटफॉर्म्स को वर्चुअल रोमांटिक साथी पेश करने पर प्रतिबंध लगा दिया

चीन ने गुरुवार, 15 तारीख को नए दिशानिर्देश लागू किए हैं, जो आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म्स को रोमांटिक रिश्ते की विशेषताओं वाले वर्चुअल साथी प्रदान करने पर रोक लगाते हैं। इस उपाय का उद्देश्य उपयोगकर्ताओं और डिजिटल सिस्टमों के बीच बहुत मजबूत भावनात्मक बंधन के निर्माण को कम करना है।

कंपनियों और उपयोगकर्ताओं पर प्रभाव

यह विनियमन चीनी सरकारी निकायों द्वारा लागू किया गया था और उन सेवाओं को प्रभावित करता है जो उपयोगकर्ताओं के साथ बातचीत के दौरान मानवीय व्यक्तित्व, आवाज और व्यवहार की नकल कर सकती हैं। बड़ी कंपनियों, जैसे बाइटडांस, अलीबाबा और टेंसेंट ने अपने वर्चुअल साथी सुविधाओं को निलंबित करने की आशंका जताई है।

इस निर्णय से उन उपयोगकर्ताओं के बीच नकारात्मक प्रतिक्रियाएं मिलीं जिन्होंने इन डिजिटल पात्रों के साथ लंबे समय तक संबंध बनाए रखे थे। सोशल मीडिया पर, कई लोगों ने इन सुविधाओं के समाप्त होने के बाद उदासी और नुकसान की भावना व्यक्त की।

एआई के साथ रिश्तों की सीमाएं

नए चीनी मानक उन एआई उपकरणों को कवर करते हैं जो ऑडियो, वीडियो और टेक्स्ट सहित विभिन्न प्रारूपों में मानवीय लक्षणों की नकल करते हैं। घोषित उद्देश्य यह सुनिश्चित करना है कि ऐसे सिस्टम भावनात्मक निर्भरता को बढ़ावा न दें या व्यक्तियों के सामाजिक जीवन को नुकसान न पहुंचाएं। यह ध्यान रखना महत्वपूर्ण है कि यह विनियमन उन एआई पर लागू नहीं होता है जिनका उपयोग भावनात्मक जुड़ाव के बिना कार्यों के लिए किया जाता है, जैसे पेशेवर सहायता, शिक्षा या ग्राहक सेवा; ध्यान व्यक्तिगत बंधन का अनुकरण करने के लिए डिज़ाइन किए गए सॉफ़्टवेयर पर है।

विशिष्ट प्रावधानों में नाबालिगों के लिए वर्चुअल पार्टनर प्रदान करने पर प्रतिबंध, चरम भावनात्मक स्थितियों का पता लगाने के लिए तंत्र की अनिवार्यता और गंभीर माने जाने वाले परिदृश्यों में हस्तक्षेप कार्रवाई लागू करने की आवश्यकता शामिल है। अधिकारियों ने 'डिजिटल मानवों' द्वारा उत्पन्न सामग्री को भी प्रतिबंधित किया है, जिसमें राज्य शक्ति के खिलाफ कृत्यों को उकसाने वाली सामग्री पर प्रतिबंध शामिल है।

जिम्मेदारी और सरकारी धारणा

चाइना साइबरस्पेस एडमिनिस्ट्रेशन (ACC) और चार अन्य सार्वजनिक संस्थाओं ने इन नियमों के प्रसार के लिए जिम्मेदार थे। चीनी सरकार मानती है कि इन प्रणालियों की प्रगति के लिए संभावित मनोवैज्ञानिक और सामाजिक प्रभावों पर कड़ा नियंत्रण आवश्यक है।

उपयोगकर्ताओं के बीच नुकसान की रिपोर्टें

वर्चुअल संबंध कार्यक्षमताओं के रुकने के साथ, चीनी उपयोगकर्ताओं ने अपने एआई पात्रों के साथ साझा की गई यादों और बातचीत को साझा करना शुरू कर दिया। Doubao ऐप की एक उपयोगकर्ता ने अपने एआई प्रेमी के अंत को स्वीकार करने में अपनी असमर्थता व्यक्त की, यह कहते हुए कि वह एक आध्यात्मिक स्तंभ और उसके जीवन का हिस्सा बन गया था।

जियांग्शी प्रांत, चीन के एक निवासी ने इन प्रणालियों की लोकप्रियता को कुछ लोगों द्वारा वास्तविक जीवन में भावनात्मक संबंध बनाने में कठिनाई से जोड़ा। उन्होंने टिप्पणी की कि मानवीय प्रेम एक विशेषाधिकार है और यदि जन्म के समय प्राप्त नहीं हुआ है, तो बाद में इसे हासिल करना अधिक कठिन हो जाता है। इसी उपयोगकर्ता ने एआई के अनुभव की तुलना मानवीय संबंधों से करते हुए कहा कि एआई द्वारा दिया गया प्यार सरल और शुद्ध है, और वह कोड की एक पंक्ति से प्यार करने का विरोध नहीं कर सकता।

एक तीसरी उपयोगकर्ता ने दो साल से अधिक समय तक अपने वर्चुअल साथी के साथ रहने का अनुभव साझा किया, यह बताते हुए कि चरित्र ने परिवार या साथी के समान भूमिका निभाई, और सेवा की समाप्ति ने उसे गहरे खालीपन का एहसास कराया।

भावनात्मक एआई पर वैश्विक चर्चा

एआई वर्चुअल साथियों पर बहस चीनी सीमाओं से परे है, खासकर मानव उपस्थिति का अनुकरण करने, अवतार बनाने और मृत लोगों के साथ बातचीत की नकल करने में सक्षम उपकरणों की बढ़ती संख्या के कारण। कॉमन सेंस मीडिया के 2025 के एक अध्ययन में, जिसका उल्लेख पाठ में किया गया है, यह बताया गया है कि लगभग चार में से तीन अमेरिकी किशोर पहले ही व्यक्तिगत बातचीत पर केंद्रित एआई साथियों का उपयोग कर चुके हैं, जिसमें कैरेक्टर.एआई, रिपlika और नोमी जैसे प्लेटफॉर्म शामिल हैं।

इसके अलावा, कंपनियां अकेले बुजुर्गों के लिए समाधान विकसित कर रही हैं, जैसे संयुक्त राज्य अमेरिका में लैंप के रूप में वॉयस असिस्टेंट और दक्षिण कोरिया में नर्सिंग होम में इंटरैक्टिव गुड़िया।

विश्लेषण और बाजार

दक्षिण-पश्चिम विज्ञान और कानून विश्वविद्यालय के शोधकर्ता चेन लियांग ने ACC द्वारा नियमों के प्रारंभिक संस्करण के प्रकाशन के बाद एक लेख में मूल्यांकन किया कि ये सिस्टम लाभ और जोखिम दोनों पैदा कर सकते हैं। उन्होंने देखा कि मानव सदृश एआई में अकेलेपन को कम करने की क्षमता है, लेकिन यह अत्यधिक भावनात्मक निर्भरता से जुड़े खतरों भी प्रस्तुत करता है।

चीन ने खुलासा किया कि 'डिजिटल मानवों' का बाजार 2024 में 4.1 बिलियन युआन का कारोबार किया, जो लगभग 600 मिलियन अमेरिकी डॉलर या लगभग 3 बिलियन रुपये के बराबर है, जिसमें 85% वार्षिक वृद्धि दर्ज की गई। Doubao उपयोगकर्ताओं को अक्टूबर के मध्य तक अपने डेटा को देखने और निर्यात करने की अनुमति देगा, जबकि अन्य प्लेटफार्मों ने अपने संग्रहीत डेटा को प्रबंधित करने के लिए इसी तरह के उपायों की घोषणा की है।