Discord é forçado a reverter milhares de banimentos após erro grave atingir até jogadores de Minecraft

Erro na IA do Discord causou milhares de banimentos indevidos

O Discord confirmou que precisou reverter o banimento de aproximadamente 8.200 contas após uma falha em seu sistema de moderação automática identificar erroneamente conteúdos inocentes como material ilegal relacionado à exploração infantil (CSAM).

O caso ganhou grande repercussão após diversos usuários relatarem nas redes sociais que haviam perdido o acesso às suas contas sem qualquer explicação aparente. Entre os exemplos mais curiosos estavam capturas de tela do inventário de Minecraft, planilhas, tabuleiros de xadrez e até imagens com fundos transparentes em formato quadriculado.

Minecraft acabou sendo um dos principais afetados

Segundo os relatos, a inteligência artificial utilizada pelo Discord passou a identificar qualquer imagem com padrões em grade (grid) como potencial conteúdo proibido.

Como o inventário de Minecraft utiliza exatamente esse formato, diversos jogadores tiveram suas contas permanentemente banidas apenas por compartilhar imagens comuns do jogo com amigos.

O problema foi inicialmente divulgado pelo usuário "Tall Cow" na rede social X (antigo Twitter), que alertou para uma vulnerabilidade no sistema de moderação da plataforma.

Discord explica o que aconteceu

Em comunicado oficial, o Discord afirmou que o problema foi causado por um bug interno.

"Nossos sistemas sinalizam conteúdos comparando-os com materiais ilegais conhecidos. Esse tipo de correspondência pode gerar falsos positivos, por isso um membro da equipe de Trust & Safety sempre revisa o conteúdo antes que qualquer ação seja tomada."

Segundo a empresa, o comportamento esperado seria apenas bloquear temporariamente o envio do conteúdo enquanto a análise era realizada. No entanto, um erro fez com que diversas contas fossem banidas automaticamente.

Mesmo após a equipe confirmar que os conteúdos eram legítimos, outro bug impedia que os banimentos fossem removidos automaticamente.

Mais de oito mil contas foram afetadas

De acordo com o Discord, cerca de 8.200 usuários foram impactados entre maio de 2026 e a última semana, além de aproximadamente 200 novos casos registrados durante o último fim de semana.

A empresa afirma que todas as contas afetadas por esse problema específico já foram restauradas e que novos mecanismos de proteção estão sendo desenvolvidos para evitar que situações semelhantes aconteçam novamente.

Usuários criticam a resposta da empresa

Apesar da restauração das contas, muitos usuários continuaram relatando dificuldades para recuperar o acesso mesmo após o comunicado oficial.

Nas redes sociais, parte da comunidade também criticou a forma como o Discord classificou o incidente apenas como um "bug", argumentando que uma falha capaz de banir milhares de usuários inocentes revela problemas mais profundos no sistema de moderação automatizada da plataforma.

O episódio reacende o debate sobre o uso de inteligência artificial em sistemas de moderação, especialmente quando decisões automáticas podem resultar em punições severas para usuários que não cometeram qualquer infração.

Fonte: TheGamer