Discord reconhece falha em sistema de proteção após morte de menina de 13 anos durante live

Relatório enviado ao Ministério da Justiça aponta que transmissão começou às 2h20 e só foi retirada às 4h15

Foto: Valter Campanato/Agência Brasil

O Discord admitiu nesta semana que seu sistema de proteção falhou em uma live que vitimou uma menina de 13 anos, no Mato Grosso do Sul. Em relatório enviado ao Ministério da Justiça, a plataforma reconheceu que a transmissão permaneceu no ar por quase duas horas antes de ser retirada. O caso aumentou a pressão por medidas de proteção a crianças e adolescentes.  Por: Metro1

A transmissão começou às 2h20 de 22 de julho. O primeiro alerta sobre risco iminente de morte ou lesão grave foi emitido às 3h50, mas o servidor só foi retirado do ar às 4h15. Segundo a empresa, o canal não apresentou inicialmente sinais claros de atividade violadora, o que atrasou a resposta da plataforma.

Motivo da demora

O Discord informou que seu sistema automático de intervenção é acionado quando uma live alcança 0,95 ponto em uma escala de risco. Nesse caso, a transmissão teria recebido apenas 0,12 ponto. A empresa afirmou que nomes e mensagens usados no servidor podem ter escondido a verdadeira intenção dos responsáveis.

A plataforma também declarou que reduzir o limite de detecção poderia aumentar os falsos alertas e prejudicar o sistema automático. Mesmo assim, disse estar revisando o modelo e avaliando mudanças nos critérios usados para identificar conteúdos de risco.

Lives são suspensas no Brasil

Na quarta-feira (12), a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo do Discord no Brasil. A medida é preventiva, atinge apenas a ferramenta de lives e não tira a plataforma do ar. A suspensão seguirá até que a empresa comprove a adoção de mecanismos eficazes para proteger crianças e adolescentes.

O Discord, usado principalmente por jogadores e também por adolescentes, já vinha sendo alvo de críticas sobre moderação e segurança de menores. A decisão ocorre após o caso e novas cobranças de autoridades brasileiras por medidas mais rígidas de proteção.