O Discord admitiu, em relatório enviado ao Ministério da Justiça, que seu sistema automático de moderação não identificou com rapidez a live em que uma adolescente de 13 anos tirou a própria vida. A transmissão permaneceu no ar durante quase duas horas, intervalo considerado decisivo pelas autoridades para a disseminação do conteúdo e o incentivo a novos casos.
A falha motivou a Agência Nacional de Proteção de Dados (ANPD) a ordenar a suspensão temporária de todas as lives da plataforma no território brasileiro. A determinação, inédita, se estende apenas ao recurso de vídeo ao vivo — o serviço de mensagens e voz continua disponível — e ficará em vigor até que a empresa comprove a adoção de mecanismos eficazes de proteção a crianças e adolescentes.
Quase duas horas de inércia até a derrubada
O documento apresentado pelo Discord detalha o passo a passo da tragédia ocorrida em 22 de julho. A transmissão começou às 2h20 e só foi encerrada pela empresa às 4h15. O primeiro alerta interno sobre risco iminente de morte ou lesão foi acionado às 3h50, ou seja, 90 minutos depois do início. Mesmo após o sinal vermelho, foram necessários mais 25 minutos para que o servidor fosse removido.
Como opera o algoritmo de risco
Segundo a plataforma, o sistema de detecção automática gera uma pontuação que varia de 0 a 1 para indicar probabilidade de violação grave. A live que resultou na morte da adolescente registrou 0,12 em seus momentos iniciais, bem abaixo do limite de 0,95 que dispara a interrupção imediata. No relatório, a empresa alega que a escolha de nomes e descrições neutras pelos administradores do canal “mascarou” a real finalidade da sala, impedindo o rastreio precoce.
A companhia reconhece estudar a redução desse limiar, mas alerta para o aumento de falsos positivos — situações em que lives legítimas seriam derrubadas à toa. A calibragem, avalia o Discord, pode “comprometer a eficácia” das ações automatizadas se feita sem aprimoramentos adicionais.
Suspensão preventiva decretada pela ANPD
Baseada no chamado ECA Digital — capítulo regulamentar do Estatuto da Criança e do Adolescente para ambientes on-line —, a ANPD deu três dias úteis para que o Discord comprove o cumprimento da ordem. Caso a plataforma não desative voluntariamente as lives no Brasil, poderá ser multada e ter novas sanções impostas pelo Ministério da Justiça e Segurança Pública.
Medida motivada por série de ocorrências
Técnicos da agência afirmam que o episódio de Mato Grosso do Sul não foi isolado. Desde 2023, o órgão acompanhava relatos de automutilação, aliciamento e incentivo ao suicídio envolvendo transmissões ao vivo no serviço. A análise concluiu que o alto potencial de dano e a recorrência justificavam a ação emergencial.
Embora rara, a iniciativa não é sem precedentes internacionais: autoridades da União Europeia e dos Estados Unidos já pressionaram redes sociais a limitar funcionalidades quando identificadas falhas graves de moderação, sobretudo em conteúdos voltados ao público infantojuvenil.
Discord contesta e promete reforços
Em nota pública, a empresa classificou a suspensão como “prematura” e garantiu manter diálogo aberto com a ANPD. A companhia sustenta que a atividade criminosa teve origem em outros serviços on-line, onde continuou após o banimento dos responsáveis no Discord. A plataforma também alega investir em equipes dedicadas à detecção de violência, extremismo e exploração sexual.
Imagem: Internet
Negociações e próximos passos
Antes da decisão da ANPD, a Advocacia-Geral da União (AGU) recebeu um plano preliminar de reforço à segurança proposto pela empresa. Entre as medidas sugeridas estão ampliação da verificação de idade, revisão do algoritmo de risco, canal prioritário para denúncias envolvendo menores e parceria com entidades de saúde mental.
O governo analisará se as iniciativas são suficientes para reativar as lives no país. Caso contrário, a suspensão pode se alongar ou mesmo levar à abertura de processo sancionatório, com multas que, pela Lei Geral de Proteção de Dados, chegam a 2% do faturamento da companhia no Brasil, limitadas a R$ 50 milhões por infração.
Pressão regulatória e alerta ao setor
Especialistas veem na atitude da autoridade brasileira um novo patamar de responsabilização das big techs. Para a advogada Carolina Terra, pesquisadora em direito digital, “a ANPD passou do discurso à prática, mostrando que dispõe de ferramentas para coibir riscos concretos à infância, inclusive suspendendo funcionalidades centrais das plataformas”.
Outras redes que oferecem transmissões ao vivo, como Twitch, TikTok e YouTube, acompanham o caso de perto. Fontes do mercado admitem que, diante do precedente, as empresas devem revisar protocolos de resposta a conteúdos de automutilação e suicídio para evitar penalidades semelhantes.
Impacto para usuários e criadores
No curto prazo, a suspensão atinge comunidades brasileiras que usam as lives do Discord para jogos, aulas remotas e eventos. Moderadores de grandes servidores relatam incerteza sobre a migração de público para ferramentas externas. Já organizações da sociedade civil que atuam na prevenção ao suicídio pedem cautela: embora cause transtornos, a medida “fecha uma porta” que se mostrava vulnerável às ações de grupos que exploram o sofrimento de jovens.
Enquanto as partes negociam, o episódio reacende o debate sobre a responsabilidade das plataformas na proteção de usuários menores de idade e aponta para um ambiente regulatório cada vez mais rigoroso no país.
