Caso Discord expõe lacuna regulatória e impulsiona debate sobre governança de algoritmos

A decisão da Autoridade Nacional de Proteção de Dados (ANPD) de suspender temporariamente as transmissões ao vivo do Discord no Brasil, após a morte de uma adolescente de 13 anos supostamente incentivada por membros de uma comunidade online, evidenciou uma lacuna na regulação de plataformas digitais. As investigações ainda estão em curso, mas o caso mostra que a responsabilidade pode se estender por uma cadeia de serviços, já que a divulgação teria ocorrido em redes como TikTok e Instagram, enquanto Telegram e Discord seriam usados para organização e intensificação da conduta.

Moderação tradicional é insuficiente

A remoção de conteúdo e a suspensão de contas, embora necessárias, atuam após o dano, quando muitas vezes já é tarde. A governança algorítmica surge como alternativa, propondo questionamentos anteriores: por que determinado conteúdo foi recomendado a uma pessoa? O sistema favoreceu a escalada para conteúdos extremos? A busca por engajamento prevaleceu sobre sinais de perigo? Essas perguntas buscam responsabilizar as plataformas pelo desenho de seus sistemas, sem recorrer a medidas como censura prévia ou filtros de upload.

ECA Digital como marco regulatório

O ECA Digital (Projeto de Lei 2.628/2022) representa um avanço ao deslocar o foco do conteúdo isolado para a arquitetura das plataformas. A proposta determina que fornecedores adotem medidas para prevenir e mitigar riscos de acesso, exposição, recomendação ou facilitação de contato de crianças e adolescentes com conteúdos e práticas prejudiciais. Isso inclui avaliar como funcionalidades e sistemas automatizados contribuem para a produção de danos.

A proposta, contudo, não está imune a críticas. A aposta na verificação de idade, tendência global, pode ser contornada por declarações falsas ou contas emprestadas, além de exigir identificação de toda a população, inclusive adultos. Na Austrália, dados iniciais indicam que a maioria dos menores de 16 anos continuou usando redes mesmo após a proibição. Especialistas alertam que tal política pode criar uma infraestrutura de identificação permanente sem alterar o modelo de negócios das plataformas.

Impacto prático para advogados

Para a advocacia, o caso sinaliza uma tendência de responsabilização das plataformas não apenas pelo conteúdo, mas pelos sistemas de recomendação e design. Advogados que atuam com direito digital, proteção de dados e responsabilidade civil devem acompanhar os desdobramentos do ECA Digital e as decisões da ANPD, que podem estabelecer precedentes sobre a obrigação das empresas de mitigar riscos sistêmicos. A discussão também alcança o período eleitoral, com debates sobre desinformação e radicalização política, em que a governança algorítmica pode se tornar tema central.