O Discord identificou e corrigiu uma falha em seu sistema de segurança que resultou no bloqueio indevido de mais de oito mil contas desde maio. Conteúdos considerados normais, como tabuleiros de xadrez e elementos visuais de jogos, foram erroneamente interpretados pelo mecanismo de moderação.
Falsos Positivos no Sistema de Moderação
De acordo com informações do The Verge, o erro residia no sistema automático de segurança do Discord, projetado para comparar publicações com materiais perigosos conhecidos. Essa ferramenta começou a gerar falsos positivos, classificando itens seguros como potencialmente suspeitos.
Entre os tipos de conteúdo que provocaram os bloqueios estavam tabuleiros de xadrez, texturas utilizadas em jogos, inventários do Minecraft e outras imagens que a plataforma considerava inofensivas. Especificamente, cerca de 200 usuários foram afetados por publicações contendo padrões de grade, enquanto outros aproximadamente 8 mil tiveram suas contas suspensas devido a interpretações incorretas de diversas imagens desde maio.
Problemas no Processo de Desbloqueio
Stanislav Vishnevskiy, diretor de tecnologia (CTO) e cofundador do Discord, esclareceu que a falha não se limitou à identificação inicial das imagens. Ele apontou que o problema também atingiu a fase de remoção dos bloqueios. Vishnevskiy assegurou que todas as pessoas impactadas tiveram seu banimento revertido.
O funcionamento ideal previa que conteúdos suspeitos fossem sinalizados para uma análise humana, permitindo que a conta tivesse apenas funcionalidades temporariamente restritas. Contudo, uma falha técnica levou ao banimento total dos usuários. Além disso, mesmo após a liberação das contas pela revisão, o sistema persistia em manter certos bloqueios ativos devido a outro erro operacional.
Ajuste Após Reclamações dos Usuários
Os bloqueios ganharam destaque após relatos de usuários nas redes sociais sobre a perda de acesso ao Discord por compartilharem imagens cotidianas, incluindo elementos de jogos. A empresa comunicou que o problema foi solucionado e confirmou a restauração completa das contas afetadas. Este incidente sublinha a necessidade de integrar sistemas automatizados de moderação com avaliações humanas para prevenir sanções equivocadas.