न्याय और सार्वजनिक सुरक्षा मंत्रालय (MJSP) ने ब्राजील में सुलभ 13 'एआई साथी' अनुप्रयोगों में बच्चों और किशोरों के लिए संभावित खतरों का पता लगाया है। जांच में आयु सत्यापन, अत्यधिक उपयोग, यौन सामग्री के संपर्क और व्यक्तिगत डेटा संग्रह से संबंधित कमियों की ओर इशारा किया गया है।
यह सर्वेक्षण राष्ट्रीय डिजिटल अधिकार सचिवालय (Sedigi) द्वारा किया गया था, जिसने इन प्रकार की सेवाओं पर अध्ययनों, सार्वजनिक जानकारी और परीक्षणों को संकलित किया। परिणामी सामग्री को राष्ट्रीय डेटा संरक्षण एजेंसी (ANPD) और राष्ट्रीय उपभोक्ता सचिवालय (Senacon) के विश्लेषण के लिए भेजा गया।
ये सेवाएं निरंतर और व्यक्तिगत बातचीत बनाए रखने के लिए डिज़ाइन की गई हैं, जो भावनात्मक बंधन का अनुकरण करने और भावनात्मक समर्थन प्रदान करने में सक्षम हैं, साथ ही उपयोगकर्ता द्वारा प्रदान किए गए डेटा को संग्रहीत भी करती हैं। विश्लेषण की गई सूची में कैरेक्टर.एआई (Character.AI) और रिपlika (Replika) जैसे प्लेटफॉर्म शामिल हैं।
Sedigi के अनुसार, इस क्षेत्र में तेजी से वृद्धि हुई है: यूनिसेफ की एक रिपोर्ट बताती है कि प्लेटफार्मों की संख्या 2022 में 16 से बढ़कर जुलाई 2025 में 128 हो गई। केवल 2025 के पहले छह महीनों में, इन सेवाओं ने 60 मिलियन इंस्टॉलेशन दर्ज किए।
दस्तावेज़ मजबूत लगाव के विकास, मानवीय संबंधों के प्रतिस्थापन, बाध्यकारी उपयोग और अनुपयुक्त या यौन सामग्री के संपर्क जैसे जोखिमों पर प्रकाश डालता है। निजी जानकारी के संग्रह और भावनात्मक और व्यवहारिक प्रोफाइल के निर्माण का भी उल्लेख किया गया है।
अध्ययन में पता चला कि मूल्यांकित प्रणालियों में से दस जन्मतिथि स्व-घोषणा या वयस्कता की सरल पुष्टि स्वीकार करती हैं। Sedigi द्वारा किए गए परीक्षणों ने प्रदर्शित किया कि इस पद्धति को दरकिनार किया जा सकता है, जिससे किशोर उपयोगकर्ताओं को वयस्कों की प्रोफाइल बनाने की अनुमति मिलती है।
मार्च से डिजिटल ECA के लागू होने के साथ विषय की प्रासंगिकता बढ़ गई है। यह कानून स्थापित करता है कि प्लेटफ़ॉर्म को उन सामग्री के लिए कुशल आयु सत्यापन विधियों का होना चाहिए जो नाबालिगों के लिए अनुपयुक्त हैं, और कुछ परिस्थितियों में स्व-घोषणा को एकमात्र नियंत्रण होने से रोकता है। इसके अलावा, नियामक डिक्री यौन रूप से स्पष्ट प्रकृति की स्वचालित इंटरैक्शन को पोर्नोग्राफिक सामग्री के बराबर मानता है।
Sedigi ने भावनात्मक प्रोफाइल के उपयोग से जुड़े संभावित मुद्दों की भी पहचान की है ताकि ऑफ़र, विज्ञापन या सशुल्क सुविधाओं को बढ़ावा दिया जा सके। इसलिए, नोट सुझाव देता है कि ANPD इन जोखिमों की जांच करे, जबकि Senacon को उपभोक्ता संरक्षण और किसी भी शोषणकारी या भ्रामक वाणिज्यिक प्रथाओं के मुद्दों की जांच करनी चाहिए।
एआई के साथ बने भावनात्मक बंधनों के बारे में चिंता केवल ब्राजील तक सीमित नहीं है। जुलाई में, चीन ने भावनात्मक निर्भरता को बढ़ावा देने वाले डेटिंग एआई के खिलाफ नियम लागू किए, जिससे कंपनियों को अंतरंगता की कार्यक्षमताओं को निष्क्रिय करने के लिए मजबूर होना पड़ा। यूरोपीय संघ में, एक प्रस्तावित बहस में 15 वर्ष से कम उम्र के नाबालिगों के लिए एआई चैटबॉट और सोशल मीडिया तक पहुंच पर प्रतिबंध लगाने का प्रावधान है, साथ ही माता-पिता की निगरानी और आयु सत्यापन तंत्र भी शामिल हैं।
यह ध्यान रखना महत्वपूर्ण है कि ब्राजील में, यह विश्लेषण अभी भी यह संकेत नहीं देता है कि 13 प्लेटफॉर्म ने किसी नियम का उल्लंघन किया है। न्याय मंत्रालय इस बात पर जोर देता है कि इन सेवाओं के प्रदाताओं को उचित कानूनी प्रक्रिया और व्यापक बचाव का अधिकार होगा।
