Decisão da Justiça Federal atende parcialmente a pedido da AGU e determina medidas contra aliciamento, sextorsão, automutilação e outros conteúdos de risco
A Justiça Federal determinou que o Discord adote novas medidas para proteger crianças e adolescentes na plataforma. A decisão foi tomada nesta quarta-feira (30) pela 14ª Vara Federal Cível do Distrito Federal e prevê multa diária de R$ 100 mil em caso de descumprimento injustificado.
A decisão atende parcialmente a um pedido apresentado pela Advocacia-Geral da União (AGU) em uma ação civil pública contra a plataforma. A ação também pede a responsabilização do Discord por falhas relacionadas à segurança de crianças, adolescentes e outros usuários.
O processo surgiu após órgãos públicos apontarem problemas em mecanismos de verificação de idade, moderação e proteção de usuários. Entre os casos analisados está a morte de uma adolescente de 13 anos, ocorrida após situações de ameaça, coação e indução à automutilação em ambiente digital.
Discord terá de reforçar mecanismos de segurança
A decisão estabelece uma série de obrigações para a plataforma.
Entre elas está a adoção de mecanismos capazes de impedir que servidores, canais e comunidades removidos sejam recriados por meio de novas contas ou identidades relacionadas aos usuários responsáveis.
O Discord também deverá impedir o uso de convites para reconstruir comunidades removidas ou conduzir menores de idade a ambientes associados a usuários reincidentes.
Além disso, a plataforma deverá ampliar os procedimentos de moderação para identificar conteúdos relacionados a situações de risco.
Controle parental e verificação de idade
A Justiça também determinou que o Discord apresente informações sobre seus mecanismos de verificação da idade dos usuários.
A plataforma deverá demonstrar como pretende cumprir as regras relacionadas à vinculação de usuários menores de 16 anos aos responsáveis legais.
Outra exigência envolve as ferramentas de supervisão parental, privacidade e proteção. O Discord deverá comprovar a existência e a eficácia desses recursos.
A decisão também estabelece prazo de 30 dias para a criação ou adequação de ferramentas de controle parental, conforme as determinações judiciais.
Plataforma terá de agir contra sextorsão
Outro ponto determinado pela Justiça envolve casos de extorsão e sextorsão contra crianças e adolescentes.
O Discord deverá criar um protocolo específico para essas situações. O procedimento deverá prever o encaminhamento dos casos às autoridades competentes quando houver elementos que indiquem crime ou risco.
Além disso, a plataforma deverá preservar informações relacionadas às ocorrências para permitir o trabalho das autoridades responsáveis pela investigação.
Conteúdos de automutilação e suicídio entram nas medidas
A decisão também estabelece medidas específicas para conteúdos que incentivem automutilação, suicídio e violência grave.
Quando identificados de forma legítima, esses conteúdos deverão ser preservados e comunicados às autoridades competentes nos casos previstos pela decisão.
A plataforma também terá de avaliar os riscos relacionados a aliciamento, violência, automutilação e suicídio em seus serviços.
A medida ocorre após órgãos públicos apontarem que comunidades digitais podem ser utilizadas para atrair menores e compartilhar conteúdos prejudiciais.
Moderação em português será obrigatória
Outro ponto da decisão trata do atendimento aos usuários brasileiros.
O Discord deverá comprovar capacidade de moderação e atendimento em português no Brasil. A plataforma também terá de manter um canal de denúncias no idioma.
Além disso, deverá existir um representante legal no país para atender às obrigações relacionadas ao serviço.
A decisão também exige informações sobre a estrutura utilizada pela plataforma para receber denúncias e responder a situações de risco.
Registros deverão ser preservados por seis meses
A Justiça determinou ainda que o Discord preserve por pelo menos seis meses determinados registros relacionados à moderação.
A medida inclui informações sobre contas, servidores, comunidades, comunicações e notificações que tenham relação com os fatos investigados.
Assim, as autoridades poderão consultar os dados necessários caso novas investigações sejam abertas ou ocorrências já registradas precisem ser aprofundadas.
Decisão também aborda conteúdos violentos
Além da proteção contra automutilação e suicídio, o Discord terá de ampliar os mecanismos de identificação e moderação de conteúdos envolvendo maus-tratos, mutilação ou crueldade contra animais quando houver risco de exposição de menores.
A decisão também prevê a remoção de publicações tecnicamente idênticas a materiais já identificados como incentivo a práticas prejudiciais, desde que exista uma notificação válida.
Medida ocorre após atuação da AGU
A AGU apresentou a ação civil pública em agosto, depois de uma tentativa de acordo com a plataforma não avançar.
Na ação, o governo pediu que o Discord adotasse medidas de segurança por padrão e também solicitou a condenação da empresa ao pagamento de R$ 500 milhões por danos morais coletivos. O valor pedido deverá ser analisado no processo e não corresponde à multa diária determinada nesta quarta-feira.
A ação recebeu suporte técnico do Ministério da Justiça e Segurança Pública e da Polícia Federal.
ANPD já havia determinado suspensão das lives
Antes da decisão judicial, a Autoridade Nacional de Proteção de Dados (ANPD) já havia adotado uma medida preventiva contra o Discord.
Em agosto, a agência determinou a suspensão das transmissões ao vivo e de recursos equivalentes de compartilhamento de vídeo no Brasil. A medida foi tomada após a ANPD identificar falhas na implementação de mecanismos estruturais de proteção de crianças e adolescentes.
A suspensão permanece relacionada ao processo administrativo da ANPD. Portanto, a decisão da Justiça Federal representa uma frente diferente de fiscalização sobre a plataforma.
MPF também acompanha a situação
O Ministério Público Federal abriu, em agosto, um procedimento para acompanhar as medidas de segurança do Discord no Brasil.
O órgão apontou a necessidade de mecanismos mais eficazes de verificação de idade, moderação proativa de conteúdo audiovisual e representação institucional da empresa no país.
Com isso, diferentes órgãos públicos passaram a analisar aspectos distintos do funcionamento da plataforma.
Discord já havia apresentado medidas de segurança
O Discord afirmou anteriormente que possui mecanismos de segurança e recursos voltados à proteção dos usuários.
Entre eles está a Central da Família, ferramenta destinada à supervisão e ao controle da experiência de adolescentes na plataforma. A empresa também apresentou medidas de proteção durante as discussões com autoridades brasileiras.
Na ação judicial, porém, a Justiça considerou necessário estabelecer medidas adicionais e prazos específicos para o cumprimento das obrigações.
Multa será aplicada em caso de descumprimento
A decisão estabelece multa de R$ 100 mil por dia caso o Discord descumpra injustificadamente as determinações.
A penalidade funciona como mecanismo de coerção para o cumprimento das obrigações impostas pela Justiça.
No entanto, a decisão é parte de um processo que ainda está em andamento. Portanto, o caso pode ter novos recursos e decisões ao longo da tramitação.
Proteção de menores virou foco de diferentes órgãos
O caso do Discord ocorre em um contexto de aumento da fiscalização sobre plataformas digitais.
Em agosto, a AGU acionou a Justiça. No mesmo mês, a ANPD determinou a suspensão das lives. Depois, o MPF abriu um procedimento específico para acompanhar os mecanismos de segurança da empresa.
Agora, a Justiça Federal determinou novas obrigações e fixou multa diária.
Assim, o Discord passa a enfrentar medidas judiciais, administrativas e de fiscalização relacionadas à proteção de crianças e adolescentes no Brasil.
📍 Acompanhe as principais notícias sobre tecnologia, internet e segurança digital no Divulga SP.
Fontes: Justiça Federal | AGU | Ministério da Justiça e Segurança Pública | ANPD | MPF | Folha de S.Paulo.
Arte: editorial ilustrativa.
