डिस्कॉर्ड ने अपने सुरक्षा प्रणाली में एक खामी की पहचान की और उसे ठीक किया, जिसके कारण मई से आठ हजार से अधिक खातों को अनुचित रूप से ब्लॉक कर दिया गया। शतरंज बोर्ड और गेम के दृश्य तत्वों जैसी सामान्य सामग्री की गलत व्याख्या मॉडरेशन तंत्र द्वारा की गई थी।
मॉडरेशन सिस्टम में झूठे सकारात्मक
द वर्ज की जानकारी के अनुसार, त्रुटि डिस्कॉर्ड की स्वचालित सुरक्षा प्रणाली में निहित थी, जिसे पोस्ट की तुलना ज्ञात खतरनाक सामग्री से करने के लिए डिज़ाइन किया गया था। यह उपकरण झूठे सकारात्मक उत्पन्न करने लगा, सुरक्षित वस्तुओं को संभावित रूप से संदिग्ध के रूप में वर्गीकृत कर रहा था।
ब्लॉक किए गए सामग्री के प्रकारों में शतरंज बोर्ड, खेलों में उपयोग किए जाने वाले बनावट, माइनक्राफ्ट इन्वेंट्री और अन्य छवियां शामिल थीं जिन्हें प्लेटफॉर्म हानिरहित मानता था। विशेष रूप से, ग्रिड पैटर्न वाली पोस्ट से लगभग 200 उपयोगकर्ताओं को प्रभावित किया गया, जबकि मई से विभिन्न छवियों की गलत व्याख्या के कारण लगभग 8 हजार उपयोगकर्ताओं के खाते निलंबित हो गए थे।
अनलॉक प्रक्रिया में समस्याएं
स्टानिस्लाव विश्नेव्स्की, डिस्कॉर्ड के प्रौद्योगिकी निदेशक (सीटीओ) और सह-संस्थापक ने स्पष्ट किया कि खामी केवल छवियों की प्रारंभिक पहचान तक ही सीमित नहीं थी। उन्होंने बताया कि समस्या प्रतिबंध हटाने के चरण तक भी पहुंची थी। विश्नेव्स्की ने आश्वासन दिया कि प्रभावित सभी लोगों का प्रतिबंध हटा दिया गया है।
आदर्श कार्यप्रणाली में यह प्रावधान था कि संदिग्ध सामग्री को मानवीय विश्लेषण के लिए चिह्नित किया जाए, जिससे खाते केवल अस्थायी रूप से प्रतिबंधित रहें। हालांकि, एक तकनीकी खराबी के कारण उपयोगकर्ताओं पर पूर्ण प्रतिबंध लग गया। इसके अलावा, समीक्षा के बाद खातों को जारी करने के बावजूद, एक अन्य परिचालन त्रुटि के कारण सिस्टम कुछ प्रतिबंधों को सक्रिय बनाए रखता था।
उपयोगकर्ता शिकायतों के बाद समायोजन
सोशल मीडिया पर उपयोगकर्ताओं की रिपोर्टों के बाद इन ब्लॉकों पर ध्यान गया, जिन्होंने रोजमर्रा की छवियों, जिसमें गेम तत्व शामिल थे, को साझा करने पर डिस्कॉर्ड तक पहुंच खो दी थी। कंपनी ने सूचित किया कि समस्या हल हो गई है और प्रभावित खातों की पूरी बहाली की पुष्टि की है। यह घटना गलत दंडों को रोकने के लिए स्वचालित मॉडरेशन सिस्टम को मानवीय मूल्यांकन के साथ एकीकृत करने की आवश्यकता को रेखांकित करती है।