‘Não fomos rápidos o suficiente’, diz vice-presidente de segurança do Discord sobre menina morta em MS
O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu falhas da plataforma no caso da morte da adolescente de Mato Grosso do Sul, aos 13 anos. Ela foi induzida por grupo extremista durante transmissão no Discord há 25 dias, em Naviraí, distante 365 quilômetros de Campo Grande.
Segundo a polícia, um grupo de adolescentes, com ideologia neonazista e misógina, atraía meninas emocionalmente vulneráveis para submetê-las a dinâmicas de dominação, extremismo e mutilação. Na madrugada de 22 de julho, a adolescente participou de uma transmissão ao vivo no Discord, que terminou com a morte dela.
Jud Hoffman, um dos responsáveis pela equipe de segurança do Discord, concedeu entrevista ao jornal O Globo neste sábado (15). Sobre a morte da jovem de Mato Grosso do Sul, ele afirma que o servidor — ou seja, a sala de bate-papo em chamada de vídeo na plataforma — havia sido criado há menos de duas horas e era pequeno.
“As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança”, declara Jud Hoffman, vice-presidente de Segurança e Confiança do Discord.
Discord levou 25 minutos para tirar live do ar
O representante da empresa afirma, ainda, que esses modelos de segurança trabalham em conjunto com equipes humanas. O primeiro sinal de alerta pode vir de denúncias de usuários ou da polícia, e a plataforma atribui pontuação ao servidor, que pode levar às sanções, como a derrubada da transmissão.
Nesse caso, o primeiro aviso de risco foi às 2h50 e a retirada foi às 3h15. Na escala de risco, a pontuação do servidor estava em 0,12, mas o sistema só retira do ar quando o número fica acima de 0,95. O vice-presidente de segurança diz ser inviável revisar todos os servidores do Discord.
“Um modelo com 100% de abrangência exigiria a revisão de tudo o que existe na plataforma, algo inviável na escala em que nós e muitas outras plataformas operamos. Ao ampliar a abrangência, aumentam os falsos positivos, que consomem os recursos disponíveis para investigação”, afirma Jud Hoffman.
Ele diz também que cerca de 15% da empresa está dedicada à segurança e centenas de pessoas atuam na moderação. “Também temos profissionais na minha equipe que entendem português e conhecem o mercado brasileiro. E seguimos investindo nisso”, alega o representante do Discord.
Tranmisões suspensas
A ANPD (Agência Nacional de Proteção de Dados) determinou que as transmissões ao vivo sejam suspensas pelo Discord. O aplicativo respondeu que classificou a decisão como “prematura” em nota. “A ANPD fez o que acredita ser necessário”, ponderou Jud Hoffman.
Ele confirmou que a plataforma cumprirá a decisão e prestará mais esclarecimentos à Agência neste sábado (15). “Temos sido abertos e colaborativos desde o dia desse terrível incidente”, afirma, referindo-se à morte da menina de Mato Grosso do Sul.
O vice-presidente de Segurança e Confiança do Discord também disse que a comunidade Lulz, grupo extremista alvo da operação deflagrada após a morte da menina de 13 anos, atua em várias plataformas. Dessa forma, ele defende que o problema não é exclusivo do Discord.
“À medida que os descobrimos e os removemos do Discord, eles migram para outra. O verdadeiro sucesso é detê-los completamente, e não apenas expulsá-los do Discord”, concluiu , comentou Jud Hoffman.
Discord contesta morte em live na plataforma
O Discord enviou resposta à ANPD, no processo de apuração das possíveis falhas da plataforma no cumprimento do ECA Digital. A empresa pediu a revogação da decisão que suspendeu as transmissões ao vivo no Brasil.
A CNN Brasil obteve acesso a dois documentos protocolados pela plataforma em que contesta a versão apresentada pelo governo brasileiro. Segundo o Discord, a morte da adolescente de Mato Grosso do Sul aconteceu às 05h03 do dia 22 de julho, após a remoção do servidor na plataforma, que teria acontecido às 04h15 daquela madrugada.
“A imagem também não retrata uma interface de usuário da Discord. Assim, os elementos disponíveis indicam que a morte retratada na imagem ocorreu depois de a Discord já haver removido o servidor de sua plataforma”, afirmou no documento enviado ao superintendente da ANPD, segundo a CNN Brasil.
Aliciamento, vulnerabilidade e rituais de violência
Em coletiva de imprensa, a Polícia Civil revelou que, para ganhar “respeito” na hierarquia do grupo e fama nas redes, as vítimas eram submetidas a rituais de violência e auto violação. Entre as tarefas dadas, elas tinham de se automutilar e deixar os nomes dos ‘donos’ no próprio corpo.
As apurações apontam que o grupo utilizava plataformas como Discord e Telegram para disseminar discurso de ódio e exigências de maus-tratos a animais e abusos mentais. A adolescente também teria sido induzida a tirar a vida de quatro gatos; no entanto, não teria conseguido.
Tempos depois, o mesmo grupo criminoso, já em outra chamada, fez com que a adolescente tirasse a própria vida. Inclusive, os integrantes teriam comemorado a morte entre eles. O servidor teria sido derrubado após denúncias do Carpe Diem — grupo de hackers éticos que ajuda a polícia.
Seis mandados de busca e apreensão foram cumpridos em vários estados, sendo cinco adolescentes apreendidos e um maior, de 18 anos, que foi preso. Um adolescente de Aquidauana fazia parte do grupo. As investigações continuam, e o grupo responderá por organização criminosa, lesão corporal, homicídio por coação e maus-tratos a animais.
