Os esforços das empresas tecnológicas para manter suas plataformas seguras estão atrasados quando se trata de compartilhar dados e informações com os pesquisadores e incorporar feedback externo, de acordo com o relatório da Digital Trust and Safety Partnership, uma coalizão apoiada por grandes empresas de tecnologia.

O relatório é uma visão sobre o que as principais empresas de tecnologia dizem ser seus maiores pontos cegos quando se trata de manter os usuários seguros. Ou seja, o relatório é composto por uma série de autoavaliações das dez empresas que compõem a coalizão, são elas: Meta, Google, Microsoft, LinkedIn, Twitter, Reddit, Pinterest, Discord, Shopify e Vimeo.

O diagnóstico aborda a “confiança e segurança”, que refere-se à parte das operações de um serviço digital em relação ao conteúdo ou conduta nocivos associados a esse serviço, como desinformação e discurso de ódio. De acordo com o documento, as plataformas carecem de processos formais para apoiar pesquisas externas e incluir a contribuição de usuários e grupos externos em suas políticas de segurança.

Por outro lado, as big techs apresentam, de acordo com o relatório a partir da autoavaliação, um estado maduro das práticas de moderação de conteúdos. Equipes responsáveis pelas políticas de conteúdo e desenvolvimento de descrições de políticas voltadas para o público são pontos avaliados como implementados por boa parte das plataformas. Também acreditam que estão notificando usuários de forma clara quando seu conteúdo está sujeito a uma ação de aplicação por violação de políticas.

Para a produção do diagnóstico, a organização Digital Trust and Safety Partnership pediu que as plataformas avaliassem e informassem o quanto estão aderindo a um conjunto de medidas de segurança considerado como “melhores práticas” elaborado pela coalizão. Essas práticas são fundamentadas em cinco princípios que devem ser adotados por um serviço digital para promover uma internet mais segura e mais confiável.

O primeiro princípio aponta que as empresas precisam identificar, avaliar e ajustar os riscos relacionados ao conteúdo e à conduta no desenvolvimento de produtos. Já o segundo destaca que as plataformas devem adotar processos explicáveis para a governança de produtos, incluindo qual equipe é responsável pela criação de regras e como essas são alteradas. O terceiro princípio inclui conduzir operações de fiscalização e governança dos produtos. Avaliar e melhorar os processos associados com os riscos relacionados ao conteúdo e à conduta é o quarto princípio indicado. Por último, as plataformas precisam assegurar que as políticas relevantes de confiança e segurança sejam publicadas para o público e a outras partes interessadas. Também é preciso adotar medidas de transparência para informar periodicamente sobre as ações tomadas nas plataformas.

Lançada em 2021 com financiamento de mais de uma dezena de empresas de tecnologia, a Digital Trust and Safety Partnership não envolveu auditores externos nesse processo de avaliação. Esse foi o primeiro relatório lançado e ele pode ser lido integralmente em inglês aqui.