Em sua primeira atividade no Brasil, a cientista de dados Frances Haugen participou nesta segunda-feira, em São Paulo, de uma reunião com organizações da sociedade civil. Na pauta, a apresentação da conjuntura brasileira, focando a troca de informações e perspectivas estratégicas.

Ex-funcionária da Meta (empresa detentora do Facebook e Instagram), Haugen foi responsável pela liberação de centenas de documentos que expuseram o funcionamento de seus algoritmos, suscitando críticas pelo mundo no que ficou conhecido como “Facebook Papers”.

Com a participação de mais de 70 representantes da sociedade civil, a discussão abordou a transparência das plataformas digitais, a possibilidade de moderação de conteúdos e como a sociedade pode se organizar e fortalecer uma “musculatura civil de prestação de contas” sobre esses sistemas, nas palavras da engenheira. Confira os principais momentos deste diálogo com Frances Haugen:

“Eles temem ser transparentes”

Frances Haugen reafirmou a necessidade da transparência como a principal ferramenta de acompanhamento e controle das plataformas digitais, especialmente as do grupo Meta, da qual fez parte.  “Vemos o que tem na frente, mas é preciso conhecer o que tem por trás”, disse, e complementou:  “eu sempre vou pedir o caminho da transparência porque ele é o começo da conversa.”

Fazendo uma analogia com as políticas de ESG (Environmental, Social and Governance – ou, em português, Ambiental, Social e Governança), Haugen disse que atualmente se sabe o que se perguntar e procurar no funcionamento das empresas para acompanhar se elas se adequam aos protocolos sugeridos, “mas não se tem ideia do quê se perguntar para as plataformas de mídias sociais”. Fundamental, portanto, é saber formular as perguntas certas a serem feitas visando a responsabilização dessas plataformas e a transparência sobre seu funcionamento.

Sobre o Facebook, a ex-funcionária foi categórica ao dizer que eles pouco disponibilizam informações sobre seu funcionamento, pois “eles temem ser transparentes” por saber o que fizeram nos 20 anos de funcionamento.

Moderação de conteúdo e idioma

“Como podemos ter uma mídia social segura independente do idioma?”, foi a pergunta levantada por Haugen, relatando a diferença existente entre a preocupação com a mediação de conteúdos em inglês se comparada aos demais idiomas: “fiquei chocada como o Facebook era diferente dentro e fora dos Estados Unidos”.

A cientista de dados por mais de uma vez ressaltou a sua preocupação com a ausência de investimentos por parte do Facebook na mediação de conteúdos em outros idiomas para além do inglês, o que resultaria quem grandes erros por parte da Inteligência Artificial na moderação de conteúdos. Como exemplo, citou que 75% das publicações em árabe (com suas variações linguísticas) que foram derrubadas por serem consideradas propaganda terrorista eram, na verdade, conteúdos antiterroristas.

Esta mesma falha é notada na remoção de conteúdos por conterem palavras que, em contextos diferentes, não se enquadrariam como termos ofensivos. Como exemplos  trazidos por representantes de organizações presentes, termos utilizados por integrantes de movimentos pelos direitos das Mulheres, população negra e também LGBT+ funcionaram como sinalizadores de bloqueio de conteúdo quando, na verdade, se mostravam como uma apropriação visando o empoderamento dessas lutas antidiscriminatórias. “Falta para a Inteligência Artificial essa sutiliza para compreender as diferentes significações possíveis, os contextos” comentou Frances Haugen.

A engenheira trouxe como possibilidade de aprimoramento da se as plataformas trabalhassem numa perspectiva aberta, mais colaborativa, o que permitira uma melhor calibragem dos mecanismos de Inteligência Artificial sobre as significações de termos nos mais diversos idiomas. Mas, segundo ela, o Facebook prefere não trabalhar dessa forma.

Os desafios e as formas de ação

“O fato de a gente se reunir e ter essa conversa é um passo crítico da resistência”, lembrou Frances Haugen ao dizer que a troca de experiências e perspectivas entra as mais diversas organizações da sociedade civil é fundamental na articulação da luta pela transparência das plataformas sociais, das quais ela deixou claro não ser contrária: “mídias sociais são transformadoras porque elas dão às pessoas a possibilidade de falar. O ponto passa pela responsabilização delas”, para acrescentar “a maioria das pessoas não tem voz, e poucas têm toda a voz”.

“A gente não está num mato sem cachorro, nós estamos no começo da nossa jornada” analisou a norte-americana, afirmando que o caminho passa inegavelmente pela transparência no funcionamento das plataformas digitais.

Sobre as denúncias de Haugen, o grupo Meta divulgou a seguinte nota, atribuída a seu porta-voz: “O Brasil é um país prioritário para a Meta. Temos especialistas brasileiros em diferentes localidades e baseados no país, e temos feito investimentos significativos em pessoas e tecnologia para aplicar nossas políticas em dezenas de idiomas, incluindo o Português. Investimos mais de US$5 bilhões globalmente em segurança e integridade apenas em 2021, e temos 40 mil pessoas dedicadas a essas áreas. Desde 2017, removemos mais de 150 redes tentando manipular o debate público originadas em mais de 50 países, entre eles o Brasil. Nossas ações ao longo do tempo mostram que combatemos abusos nas nossas plataformas no Brasil.”

O evento foi promovido pelo Sleeping Giants Brasil, Coalizão Direitos na Rede, Intervozes, InternetLab, Instituto Vero, Avaaz, Instituto Marielle Franco, *desinformante – Instituto Cultura e Democracia, com apoio da Luminate.