É aceitável em plataformas de redes sociais que conteúdos sejam excluídos por não respeitarem as diretrizes das normas comunitárias, seja por discurso de ódio ou desinformação. No Facebook, esse processo era pouco conhecido e gerava dúvidas sobre a confiabilidade. O jornal americano The Intercept teve acesso a lista de contas consideradas perigosas pelo Facebook e mostrou que grande parte dessa lista é vinculada a ameaças aos Estados Unidos (EUA). Essa é primeira vez que a política de indivíduos e organizações perigosas, também conhecida como Dangerous Individuals and Organization – DIO, em inglês, tornou-se pública.
Até a publicação do The Intercept, o Facebook informava que não iria disponibilizar essa lista de DIO para proteger seus profissionais de possíveis ameaças, mesmo com diversas recomendações do Oversight Board (Conselho de Decisão do Facebook) devido ao seu interesse público. Segundo a reportagem, essa lista de contas consideradas perigosas vinha acompanhada de um documento que ajudava moderadores a deletar conteúdo e punir usuários que feriam as regras da rede. Mais da metade consiste em indivíduos e grupos apontados como terroristas estrangeiros pelos Estados Unidos e seus aliados, que são predominantemente do Oriente Médio, do Sul da Ásia e muçulmanos, frequentemente também marginalizados pela mídia. Esses membros tinham a discussão sujeita à censura mais severa da plataforma.
Segundo a publicação, o Facebook construiu a lista com maioria dos nomes incluídos na categoria terrorismo contra o governo dos EUA. Outras fontes também foram usadas pela empresa do Vale do Silício: Terrorism Research & Analysis Consortium, uma base de dados baseada em assinatura de supostos extremistas violentos, e SITE, uma operação privada com uma longa e controversa história na forma de rastreamento de terrorismo nos EUA. Em 2006, Michael Scheuer, o ex-chefe da unidade Osama bin Laden da CIA, disse à revista norte-americana New Yorker que “uma palavra árabe pode ter quatro ou cinco significados diferentes na tradução” e o SITE normalmente escolhe a “tradução mais bélica”.
Além de discriminatória, essa lista possui certa parcialidade na forma como as medidas são adotadas. De acordo com as regras lançadas pelo Facebook no final de junho, quatro categorias foram criadas: ódio, crime, terrorismo, movimentos sociais militarizados e atores não estatais violentos. Em cada categoria, existe um sistema de restrição de discurso com três níveis, cuja gravidade é variável e subjetiva às decisões dos moderadores.
Independentemente do nível, nenhum membro da lista DIO tem permissão para manter uma presença nas plataformas do grupo Facebook (ou seja, o próprio Facebook, Instagram e WhatsApp), nem estão autorizados a se apresentarem como membros de quaisquer grupos listados. Por exemplo, na categoria de crime do nível 1 existe um grande número de grupos negros e latinos, como gangues de rua norte-americanas e cartéis de drogas latino-americanos.
Um moderador disse ao The Intercept de forma anônima que os analistas “normalmente têm dificuldade para reconhecer o discurso político e a condenação, que são contextos permitidos para o DIO”. Isso interfere no combate à desinformação na plataforma, que acaba sujeita a políticas pouco claras do Facebook. Apesar da moderação de conteúdo ser necessária para mitigar as fake news, é necessário que as regras sejam claras e transparentes para não gerar um sério risco para o debate político e a liberdade de expressão.