मेटा ने किशोरों की मेटा एआई बातचीत में जोखिम संकेतों पर माता-पिता को सचेत करने के लिए सुविधा लागू की

यह उपाय युवाओं की गोपनीयता की रक्षा की आवश्यकता और परिवार के सदस्यों को खतरे के समय सहायता प्रदान करने के लिए महत्वपूर्ण जानकारी प्राप्त करने की संभावना के बीच तालमेल बिठाने का लक्ष्य रखता है। यह सुविधा उन माता-पिता के लिए उपलब्ध होगी जो इंस्टाग्राम द्वारा प्रदान किए गए निगरानी कार्यों का उपयोग करते हैं।

अलर्ट और विश्लेषण प्रक्रिया

जब मेटा एआई किसी ऐसी बातचीत का पता लगाता है जो संभावित जोखिम का सुझाव देती है, तो अभिभावकों को विशेषज्ञों द्वारा प्रदान किए गए मार्गदर्शन के साथ एक सूचना प्राप्त होती है। मेटा स्पष्ट करती है कि सिस्टम को स्पष्ट उल्लेखों और भावनात्मक संकट के अधिक सूक्ष्म संकेतों दोनों को पहचानने के लिए डिज़ाइन किया गया है। यह ध्यान रखना महत्वपूर्ण है कि किसी भी अलर्ट को ट्रिगर करने से पहले, चिह्नित बातचीत की मानवीय जांच की जाती है।

यदि किशोर का इरादा पूरी तरह से स्पष्ट नहीं है, तो कंपनी एक निवारक रुख अपनाती है, और माता-पिता से संपर्क कर सकती है ताकि यह सुनिश्चित हो सके कि जोखिम की स्थिति अनसुनी न रहे। इन अलर्ट के ट्रिगर में खुद को चोट पहुँचाने की इच्छा के बारे में प्रत्यक्ष या अप्रत्यक्ष टिप्पणियाँ, तीव्र भावनात्मक पीड़ा से संबंधित संवाद, मेटा सिस्टम द्वारा पहचाने गए संकेत, या ऐसी स्थितियाँ शामिल हैं जहाँ युवा को डिजिटल वातावरण के बाहर समर्थन की आवश्यकता होती है।

कंपनी इस बात पर जोर देती है कि यह सुविधा पेशेवर निगरानी या पारिवारिक संवाद का स्थान नहीं लेती है, बल्कि यह अभिभावकों को ऐसे संकेतों की पहचान करने में मदद करती है जिन्हें नजरअंदाज किया जा सकता है।

सुरक्षा का विस्तार और आपातकाल

पारिवारिक चेतावनियों के अतिरिक्त, मेटा ने एक कार्यक्षमता विकसित की है जो मेटा एआई के साथ बातचीत से तत्काल आत्महत्या के जोखिम का संकेत मिलने पर आपातकालीन सेवाओं को सक्रिय कर सकती है, जो किशोरों और वयस्कों दोनों पर लागू होती है। यह कार्रवाई फेसबुक और इंस्टाग्राम पर पहले से उपयोग किए जा रहे मॉडल का अनुसरण करती है, जहां पिछले वर्ष में आत्महत्या के जोखिम वाली पोस्ट का पता चलने के बाद आपातकालीन सेवाओं के लिए 19 हजार से अधिक रेफरल हुए थे।

कृत्रिम बुद्धिमत्ता के प्रदर्शन को परिष्कृत करने के लिए, मेटा ने किशोर मानसिक स्वास्थ्य में विशेषज्ञता रखने वाले 75 से अधिक पेशेवरों से परामर्श किया। इन विशेषज्ञों ने सैकड़ों प्रतिक्रियाओं की समीक्षा की और सिस्टम की उपयुक्तता को अनुकूलित करने के लिए समायोजन प्रस्तावित किए।

नाबालिगों के लिए सख्त नियम

किशोर खातों पहले से ही 13 वर्ष या उससे अधिक आयु के उपयोगकर्ताओं के लिए स्वचालित सामग्री कॉन्फ़िगरेशन के साथ काम करते हैं, जो मेटा एआई को यौन या रोमांटिक प्रकृति की बातचीत में शामिल होने से रोकता है और शराब के पेय पदार्थों की रेसिपी प्रदान करने पर रोक लगाता है। इसके अलावा, इंस्टाग्राम का सबसे प्रतिबंधात्मक विकल्प, 'सीमित सामग्री' मोड, एआई सहायक के साथ इंटरैक्शन को कवर करने के लिए विस्तारित किया जाएगा, जिससे माता-पिता को किशोरों के लिए उपलब्ध इंटरैक्शन के प्रकारों पर अधिक नियंत्रण मिलेगा।

जी-योन ली, एक मनोवैज्ञानिक जिन्होंने सिस्टम प्रतिक्रियाओं के विश्लेषण में सहयोग किया, ने इस बात पर प्रकाश डाला कि यह विशेषज्ञ मूल्यांकन उपकरण में सुधार के लिए मौलिक था, यह कहते हुए कि 'विशेषज्ञों और परिदृश्यों पर आधारित इस प्रकार का शोधन किशोरों के लिए एआई के साथ अनुभवों को सुरक्षित बनाने के लिए आवश्यक है'।

ये नए अलर्ट पहले से ही संयुक्त राज्य अमेरिका, यूनाइटेड किंगडम, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम की निगरानी का उपयोग करने वाले माता-पिता के लिए सक्रिय हैं, और मेटा वर्ष के अंत तक अन्य देशों में इस कार्यक्षमता का विस्तार करने की योजना बना रही है।