A Lei de Serviços Digitais (conhecida também pela sigla DSA, em inglês) já está em vigor na União Europeia. Na fase de implementação da nova norma, pesquisadores apontam possíveis problemas na forma como o texto prevê o processo de auditoria, importante instrumento para avaliar o cumprimento das regras pelas empresas. O modelo baseado em riscos é sugerido para as plataformas prestarem contas à Comissão Europeia.

Para Anna-Katharina Meßmer e Martin Degeling, autores do paper “Auditoria de Sistemas de Recomendação“, após dois anos de discussão, essa nova fase prática do DSA apresenta um desafio importante: o cumprimento das auditorias requeridas para averiguar e avaliar se as plataformas estão violando as disposições do documento legislativo.

Isso porque o DSA, apesar de prever a realização de diferentes tipos de análises e avaliações de risco, não deixa claro os parâmetros e diretrizes que devem estar presentes nos relatórios de prestação de contas.

Dessa forma, segundo os especialistas, a lei pode dar brecha para o chamado “audit washing“, quando a própria empresa determina os padrões a serem analisados e seguidos, dando a falsa garantia de cumprimento das normas e deveres.

“Se a sociedade civil não apoiar o desenvolvimento de padrões, definições e procedimentos concretos, as plataformas serão deixadas para suas próprias avaliações (em interesse próprio)”, alertaram Meßmer e Degeling.

Yasmin Curzi, pesquisadora do Centro de Tecnologia e Sociedade da FGV Direito Rio, aponta também o risco de cooptação por parte de empresas de auditoria independentes (uma das formas previstas de avaliação pelo DSA), problema existente, inclusive, em outros setores, como o bancário.

Como ela explica, a auditoria das plataformas digitais, especificamente, “é uma tarefa muito especializada. Vão ser pouquíssimas as empresas capazes de desenvolver esse tipo de serviço, o que pode trazer um risco de cooptação e aliciamento desses atores”. 

O audit washing não é novidade no contexto das plataformas. Em 2018, após o genocídio da população mulçumana rohingya em Mianmar, o Facebook, considerado um elemento chave para tal episódio, chegou a produzir de maneira autônoma um relatório de avaliação de impacto da rede social sobre os direitos humanos no país. A validade do documento, porém, foi criticada e questionada por pesquisadores e especialistas.

Pesquisadores propõem modelo baseado em cenários de riscos 

Frente ao desafio de manter as auditorias confiáveis, Meßmer e Degeling defendem a criação de diretrizes claras e para isso propõem um processo de avaliação multiplataforma, baseado em cenários de riscos, que pode ser utilizado como padrão pela União Europeia.

O modelo de análise dos sistemas de recomendação da dupla (disponível em inglês aqui) é baseado numa metodologia dividida em quatro fases: planejamento, definição de cenários de risco, mensuração e avaliação.

Após um escrutínio da plataforma a ser analisada e a identificação dos stakeholders que serão incluídos (como desenvolvedores, especialistas jurídicos, etc.), o método avalia qual cenário de risco deve ser analisado, considerando os danos ao usuário e os elementos das plataformas que possam ter acarretado isso.

Os cenários de riscos delimitados no modelo, segundo os pesquisadores, foram os quatro estabelecidos pelo DSA: 

1. Compartilhamento de conteúdo ilegal, como abuxo sexual infantil ou discurso de ódio;
2. Impacto nos direitos humanos fundamentais, como por exemplo dignidade humana, liberdade de expressão, direito à vida privada e proteção de dados;
3. Perigos contra processos democráticos, discurso cívico e segurança pública;
4. Consequências na saúde pública, impactos nas minorias, bem-estar mental ou violência de gênero.

“As diretrizes que propomos também fornecem a qualquer parte independente um roteiro para realizar uma auditoria, contribuindo assim para uma supervisão social mais integral dos sistemas de recomendação dessas plataformas”, comenta a dupla.

Como o DSA prevê a prestação de contas das plataformas? 

Os processos de auditoria previstos pelo DSA buscam avaliar os impactos potenciais de novos produtos lançados pelas plataformas digitais e mitigar frequentemente os riscos dos serviços oferecidos.

Como lembra Yasmin Curzi, esse é um ponto importante da lei para a fiscalização das plataformas e a efetividade da aplicação das novas regras. “É um mecanismo interessante que dialoga com a capacidade de abrir e escrutinar informações que podem estar sob certo segredo industrial das plataformas”, explicou.

Veja abaixo quais são os tipos de auditorias previstas pelo DSA e quem deve realizá-las:

• Auditorias internas: Nos artigos 34 e 35, o DSA orienta que as próprias plataformas conduzam processos de avaliação de riscos antes da implementação de novas funcionalidades e, se os riscos forem identificados, implementar medidas de mitigação de impactos negativos.
• Auditorias independentes: O artigo 37 diz que as plataformas precisam contratar organizações independentes para a realização de uma diligência anual sobre mensuração e mitigação de riscos.
• Auditoriais por pesquisadores: No artigo 40, a lei prevê que pesquisadores habilitados tenham acesso aos dados solicitados para conduzir pesquisas que possam contribuir para identificação e compreensão dos riscos sistêmicos.
• Auditorias da Comissão Europeia: O artigo 40 também exige que a própria Comissão Europeia tenha acesso a dados necessários para monitorar e avaliar o cumprimento da legislação.

Transparência das plataformas no Brasil

Questionada sobre a aplicação da auditoria no Brasil, Yasmin explicou que aqui enfrentaremos problemas parecidos com aquelas da União Europeia, como falta de organismos especializados para essa atividade e a possível cooptação deles.

Como lá foram, ela comenta, não devemos esperar que apenas um único projeto de lei seja o suficiente para conseguir práticas eficientes de transparência dessas plataformas digitais. “A regulação de plataformas só vai ser efetiva se a gente tiver outros marcos normativos sendo aplicados, a gente precisa colocar a auditoria num bloco com outras regulações”, disse.

No Brasil, o projeto de lei 2630, que chegou a ser votado em maio do ano passado e que volta ao debate atual como o principal projeto que trata da transparência das plataformas, determina que as plataformas produzam relatórios semestrais com informações sobre moderação de conteúdo realizada. Mesmo assim, não há referência no texto a avaliação de riscos, mitigação de impactos negativos e auditorias internas, independentes e públicas.