संयुक्त राज्य अमेरिका के सैन फ्रांसिस्को अभियोजक कार्यालय ने एप्पल और गूगल को औपचारिक रूप से सूचित किया है, दोनों कंपनियों पर नकली नग्नता की छवियां बनाने के लिए डिज़ाइन किए गए आर्टिफिशियल इंटेलिजेंस ऐप्स के माध्यम से लाभ कमाने का आरोप लगाया है।
आरोप और कानून
अभियोजन पक्ष का दावा है कि ये कंपनियां इन एआई ऐप्स के वितरण और व्यावसायीकरण को सुविधाजनक बना रही हैं, जिनका उपयोग वास्तविक व्यक्तियों की तस्वीरों को संशोधित करने और नग्नता का अनुकरण करने के लिए किया जाता है। इन प्रथाओं को उत्पीड़न, छवि के अनुचित शोषण और यौन दुर्व्यवहार के उत्प्रेरक के रूप में इंगित किया गया है।
अभियोजक के अनुसार, यह गतिविधि कैलिफ़ोर्निया के गैर-सहमति वाली सिंथेटिक पोर्नोग्राफी से संबंधित कानूनों का उल्लंघन कर सकती है। इसके अलावा, कंपनियों पर इन ऐप्स के भीतर किए गए भुगतानों पर कमीशन प्राप्त करके वित्तीय लाभ कमाने का भी आरोप है।
अधिकारियों का रुख
महा检察ता डेविड चियू ने वायर्ड पोर्टल को बताया कि बिना सहमति के छवियों का निर्माण 'अवैध, हानिकारक और पूरी तरह से अस्वीकार्य' है। उन्होंने इस बात पर जोर दिया कि कंपनियों का यह दायित्व है कि वे सुनिश्चित करें कि उनके ऐप इकोसिस्टम किसी भी प्रकार के यौन शोषण को सुविधाजनक बनाने वाला मंच न बनें।
अभियोजक कार्यालय ने यह भी बताया कि इन ऐप्स में से कुछ को डिजिटल स्टोरों में कम आयु रेटिंग के साथ वर्गीकृत किया गया था, और उन्हें बच्चों के लिए उपयुक्त के रूप में प्रस्तुत किया गया था।
कानूनी आवश्यकताएं और संदर्भ
न्यायिक सूचनाओं में मांग की गई है कि एप्पल और गूगल तुरंत पहचाने गए ऐप्स को हटा दें और जिम्मेदार डेवलपर्स के साथ किसी भी व्यावसायिक संबंध को समाप्त कर दें। कैलिफ़ोर्निया के अधिकारियों ने निर्धारित किया है कि गैर-सहमति वाली सिंथेटिक पोर्नोग्राफी के उत्पादन और बिक्री के लिए सेवाओं को कोई तकनीकी या वित्तीय सहायता नहीं दी जानी चाहिए।
यह दबाव एआई उपकरणों की महत्वपूर्ण प्रगति के समय उत्पन्न हुआ है, जो उच्च सटीकता के साथ छवियों में बदलाव कर सकते हैं। आमतौर पर, ये उपकरण महिलाओं और किशोरों को लक्षित करते हैं, जिसमें सोशल मीडिया पर उपलब्ध सामान्य तस्वीरें उपयोग की जाती हैं।
इसके अतिरिक्त, जनवरी में, राज्य ने एलोन मस्क की एआई स्टार्टअप xAI के खिलाफ जांच शुरू की, जो ग्रोक के लिए जिम्मेदार है, क्योंकि ऐसे पोस्ट पाए गए जहां चैटबॉट वास्तविक लोगों, जिसमें नाबालिग भी शामिल हैं, से जुड़ी वयस्क सामग्री बनाने में मदद कर रहा था।
कंपनियों की प्रतिक्रिया
पोर्टल के जवाब में, गूगल ने सूचित किया कि एंड्रॉइड स्टोर यौन सामग्री वाले ऐप्स पर प्रतिबंध लगाता है और उसने ऐसी सामग्री का पता लगाने और उसे हटाने के लिए उपाय लागू किए हैं। कंपनी ने इसी तरह की कार्यक्षमता वाले सैकड़ों ऐप्स पर प्रतिबंध लगाने, साथ ही इन उपकरणों से जुड़े डेवलपर खातों और भुगतानों को निलंबित करने का दावा किया।
इस समय तक, एप्पल ने ऐप स्टोर पर इन ऐप्स की निरंतरता के बारे में कोई आधिकारिक बयान जारी नहीं किया था।



