O paradoxo da transparência: a proposta de Musk pode trazer mais problemas do que soluções
Christian Perrone
Logo após anunciar a aquisição do Twitter, Elon Musk indicou em um press release a sua visão para a plataforma, o que inclui a proposta polêmica de tornar público o seu código. A preocupação de Musk parece derivar do que ele entende como possíveis vieses políticos presentes no algoritmo da plataforma que diminuiria o alcance de certas vozes na rede social. A medida serviria, então, como uma forma de gerar maior transparência sobre o modo como os tweets circulam e são classificados e ordenados na plataforma. A questão que fica é se essa publicidade com relação ao algoritmo traria uma melhora do ambiente de debate da plataforma.
De fato, há toda uma discussão internacional sobre a necessidade de maiores explicações sobre como algoritmos de redes sociais e outros serviços de internet funcionam. Musk não está sozinho. Justo o contrário, está (bem) acompanhado. A autoridade de telecomunicações inglesa (Ofcom), muito influente na área, já indicou que as plataformas deveriam esclarecer como os seus algoritmos operam. A União Europeia, similarmente, com a aprovação do “Digital Services Act” está buscando que as plataformas sejam mais “transparentes sobre os algoritmos usados para recomendar conteúdos e produtos”.
Então isso quer dizer que a proposta do CEO da Tesla é positiva? A resposta é sim e não.
Por um lado, como já dizia o célebre Juiz Brandeis da Suprema Corte dos Estados Unidos, “a luz do sol é o melhor desinfetante”, ou seja, a transparência tende a ter um efeito positivo ao trazer à tona os “podres” que podem existir. Dessa forma, a transparência atua como um mecanismo que ao mesmo tempo inibe condutas deletérias e permite um maior controle externo. É uma política que favorece tanto uma forma de autocontrole, como de accountability, em que diferentes stakeholders podem atuar para prevenir e mitigar potenciais riscos.
Por outro lado, Lawrence Lessig, outro jurista norte-americano, em seu clássico artigo “Contra a Transparência”, expõe que a transparência, para ter um efeito benéfico, depende do modo como a informação é apresentada e do contexto em que ocorre. Fatores como interesses, recursos, capacidades cognitivas, entre outros, influenciam na possibilidade de pessoas e instituições entenderem e usarem a informação tornada pública ou mesmo de abusarem dela.
Em um “TED Talk”, logo após o anúncio da aquisição, Musk sugeriu como ele entendia que o algoritmo do Twitter deveria ser aberto, disponibilizando-o no “GitHub” – plataforma para programadores que permite acesso a códigos (usualmente abertos). Assim, na visão dele, qualquer pessoa poderia analisá-lo e sugerir modificações.
Há que entender que somente a publicização do código no GitHub não garante a compreensão da maneira como funciona o algoritmo. De cara, existe uma assimetria de informação, em que as pessoas no geral não conseguem entender o que está no código. Não é à toa que se fala em linguagens de programação, trata-se de todo um “idioma” com notação própria. Do mesmo modo que precisamos aprender diferentes línguas para nos comunicarmos, também é necessário aprender as “linguagens” de programação.
Mesmo aquelas pessoas que conseguem dominar a linguagem computacional, não necessariamente têm uma compreensão completa do funcionamento real do algoritmo sem ter acesso aos dados que o alimentam e sem poder testá-lo. É quase como ter uma receita de bolo sem conhecer os ingredientes que serão utilizados para fazê-lo. Pode-se ter uma ideia de como o bolo é, mas é só fazendo e provando que se vai entender mesmo.
No caso do algoritmo do Twitter, essa necessidade dos dados é ainda maior porque o algoritmo é desenhado para funcionar em ambientes reais em que o acesso a dados é instântaneo. Além do mais, ele é estruturado para dar resultados de acordo com dados específicos de cada usuário tendo em vista os fluxos globais de informação que circulam na rede social. Isso quer dizer que somente ter acesso ao código, sem os dados, pode não ser suficiente.
Soma-se a isso que usualmente não vai ser somente um algoritmo, mas sim uma série de algoritmos que atuam uns sobre os outros de modo intrincado para dar as recomendações nos “feeds” de cada pessoa.
Mesmo com a publicidade do código, pode, então, que a opacidade continue. Até porque, o que se busca não é entender o processo para que se possa replicar o funcionamento, mas sim compreender as relações de causa e efeito que levam a recomendar certo tweet ou não. Explico. Se queremos aquecer a água para fazer um chá, não estamos interessados em saber que para aquecer a água temos que colocá-la em uma chaleira, levar ao fogo até atingir 100ºC, o que seria o processo. Queremos saber que ao aquecer a água, a chaleira apita e já está basicamente na temperatura ideal para o chá. Há uma diferença aqui. Abrir o código pode que permita o primeiro entendimento, mas não a compreensão como aparece no segundo.
Um outro ponto que merece ser levantado é que essa abertura do algoritmo acabe por gerar um problema de segurança na plataforma. Atores mais intencionados de porte do algoritmo podem ter “insights” melhores sobre o funcionamento da plataforma e aprender a melhor manipulá-la. Esses sujeitos podem ganhar de bandeja um manual de instruções de como burlar as regras da rede social. O que pode tornar o problema levantado pelo próprio Musk da quantidade de “bots de spam” e perfis falsos algo ainda maior, pois poderão criar novas formas de evadir as defesas do sistema.
Dessa forma, se eventualmente for adquirida a plataforma – passando por cima da mais recente controvérsia uma possível suspensão ou não da venda -, há que se ter cuidado para que o tiro que busca gerar maior liberdade de expressão e trazer mais vozes para o debate não saia pela culatra e no fim torne o espaço mais tóxico, com mais bots e menos participação.
Christian Perrone é pesquisador Fulbright (Universidade de Georgetown, EUA). Doutor em Direito Internacional (UERJ); Mestre em Direito Internacional (L.L.M/Universidade de Cambridge, Reino Unido). Ex-Secretário da Comissão Jurídica Interamericana da OEA. Advogado e Head de Direito e GovTech do Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS).
Participe do debate. Envie seu comentário.
Abrir algoritmos das plataformas sociais não amplia o debate público
Beth Saad
Abertura de algoritmos e modelos de negócio das plataformas sociais são os temas que estão “em alta”. Inicio inspirada nas recentes turbulências que envolveram o Twitter – Elon Musk oferecendo aproximadamente US$44 bilhões para comprar ações da empresa que lhe dariam controle total; e quase em seguida anunciando a “suspensão temporária” da compra diante do suposto volume de contas falsas instaladas na plataforma. Suspensão que, segundo o bilionário, não impede de ainda “estar comprometido” com a aquisição.
A motivação da compra teria sido uma defesa da liberdade de expressão na plataforma, segundo palavras do próprio Musk, “A liberdade de expressão é a base de uma democracia em funcionamento, e o Twitter é a praça da cidade digital onde são debatidos assuntos vitais para o futuro da humanidade”.
Meu ponto de vista se constrói em meio aos desconcertos provocados por Musk e sua personalidade de paradoxos, e pelo próprio Twitter e seu departamento jurídico em reação aos acontecimentos. Qual seja o resultado deste momento de “suspensão” é importante prestar atenção nos aspectos que podem transformar toda a modelagem dos negócios das plataformas sociais digitais.
Caso a compra se concretize o Twitter passa a ser uma empresa privada após operar há nove anos como empresa de capital aberto. Qualquer empreendimento de capital aberto, cujas ações são negociadas em mercados de valores, tem sua performance analisada com transparência e publicidade. No caso de uma plataforma social digital o escrutínio de seus usuários também entra no cenário e passa a ser um elemento chave para a valoração da empresa. O fechamento do capital e, portanto, as decisões sobre o perfil do negócio e sua relação com o mercado-usuários ficam concentradas em torno do ideário do proprietário, reduzindo o caráter de ágora do Twitter, ainda que existam questionamentos sobre isso e também sobre seu próprio modelo de negócio.
Há que se perguntar ao próprio Elon Musk qual a sua posição sobre liberdade de expressão e democracia e quais seriam suas ações para garantir que tais posições prevaleçam na plataforma. O Twitter seria outro com sua privatização?
Não é minha idéia defender quaisquer partes do imbróglio, mas sim meu olhar sobre ele e, principalmente, sobre potenciais mudanças no cenário das ágoras opinativas que hoje são os ambientes interativos.
Plataformas como o Twitter baseiam-se em um contínuo processo de interações entre os participantes, criando um enorme conjunto de informações em livre circulação que impactam a formação da opinião pública. É uma circulação informativa modulada por processos de gestão de dados, (vamos falar de algoritmos mais adiante), pelas affordances disponíveis – as hashtags, os replies, os reposts, e os fios por exemplo, pelas facilidades de criação de contas e pelas postagens pagas/patrocinadas, entre outras possibilidades. São processos que ocorrem a partir de um controle sociotécnico dos gestores da plataforma que, em última instancia, objetivam a viabilidade de mercado e a sustentabilidade financeira do empreendimento.
Com isso, a questão da propriedade é central quando o controle sociotécnico do Twitter poderá passar às mãos de uma única pessoa motivada a mudar a “confiabilidade” da circulação do conteúdo. O calcanhar de Aquiles de Elon Musk são os algoritmos que executam a modulação daquilo que cada usuário vê em seu feed. Antes de iniciar o processo de aquisição Musk fez uma enquete postando em seu feed “o algoritmo do Twitter deveria ser de código aberto?”, escreveu, com opções para os usuários votarem “sim” ou “não”.
É evidente a relação direta e intrínseca entre modulação algorítmica e modelo de negócio. Tudo o que visualizamos em qualquer plataforma social é construído a partir de uma complexa combinação do perfil de cada usuário em termos de gostos temáticos, comportamentos, reações aos conteúdos, escolhas de sociabilidade; sua correlação a perfis similares; e a conjunção ao interesse editorial e monetário da plataforma. Combinações feitas – pelos algoritmos – resultam que cada usuário visualiza um feed construído para estar muito perto seu perfil e performance e desejos de interação. Mas, também é importante lembrar que o Twitter possui uma funcionalidade nas configurações do usuário que permite a mudança do feed algorítmico para o cronológico.
É um tanto senso comum dizer que isso é “culpa do algoritmo”. Seria apenas isso?
Com todo o cuidado de não me aventurar em explicações técnicas, um algoritmo é representado por uma sentença matemática, ou seja, numérica, construída para operar sobre um conjunto de dados digitalizados, de forma a executar uma função desejada. Os algoritmos estão por trás de uma sucessão de atividades cotidianas como, por exemplo, a logística de entrega de nossas compras online, a otimização das rotas de transporte público, as sugestões que recebemos ao abrir um serviço de streaming ou aplicações da medicina. É claro que tais sentenças se sofisticam conforme a função e a autonomia de operação desejados, chegando à configuração de redes neurais, algoritmos cognitivos dentre múltiplas outras aplicações. Também sabemos que, diante do crescimento exponencial e generalizado do uso de algoritmos na sociedade, estão disponíveis aos desenvolvedores verdadeiras bibliotecas de algoritmos pré-configurados para uso em operações simples e até de média complexidade. São oferecidos por empresas de desenvolvimento de rede, de software e de gestão de clouds, gratuitos conforme sua simplicidade, e servem de ponto de partida para aplicação em diferentes processos, perimindo sua adequação às necessidades especificas. Por outro lado, quanto mais complexo o uso e mais estratégico-sensível para quem o utiliza, os algoritmos ganham valor algumas vezes imensurável.
O principal alimento de um algoritmo são dados digitalizados – todo o conteúdo que trafega numa plataforma transformado em sinais de linguagem de máquina. Sem dados nada existe. Aqui surge mais um ativo estratégico: quanto mais dados uma plataforma social puder concentrar em seus servidores, mais ela conseguirá produzir correlações e interações para retenção de usuários e realização de transações.
A autonomia do algoritmo passa a ser um fator importante, especialmente quando tratamos de uma organização que coloca no mesmo espaço interações sociais, disponibilização de informações e notícias, e expressão de sentimentos por meio de comentários e propagação do conteúdo, tudo isso sem prejudicar a viabilidade do negócio. Tal autonomia é determinada pela capacidade da sentença matemática aprender a partir das respostas dos usuários e incorporar na sua operação novos dados que otimizam sua performance. Com isso, uma plataforma social pode criar instruções para seus algoritmos para direcionarem os feeds de cada usuário e/ou conjunto de usuários.
Recorro ao professor Sérgio Amadeu da Silveira, pesquisador sobre o tema e com várias publicações esclarecedoras, para um melhor entendimento desta autonomia. Ele afirma que algoritmos filtram e classificam conteúdos, detectam sentimentos e organizam o feed para criar estímulos de conforto informativo para o usuário, encurtando a realidade e a multiplicidade de discursos. Tal modulação está a serviço do modelo de negócio da plataforma.
De forma muito simplificada, o próprio Twitter é exemplo: na medida que uma postagem “bomba” seja pela amplificação das hashtags, seja pelo uso de robôs ou por uma evolução orgânica que reflete o zeitgeist do momento, o algoritmo entende que o conteúdo tem relevância e assume que novos conteúdos com aquelas características devem aparecer prioritariamente no feed dos usuários.
Mais um ponto de atenção está no fato que o algoritmo é uma produção humana a serviço de um determinado objetivo. A tal sentença matemática não é um elemento estático por sua própria característica de aprendizagem e pela humanidade de seus construtores. Quanto maior a sofisticação da função desejada maior o investimento em recursos humanos, em conhecimento e em máquinas para processamento para sua construção. Algoritmos que suportam plataformas sociais não são isentos, são feitos de regras determinadas e, ao mesmo tempo mutantes, tendo sua performance atrelada ao business. É item estratégico.
Com isso, voltamos ao Twitter como um negócio de plataforma social. Seu algoritmo – ou conjunto de algoritmos que opera, se constitui num ativo imaterial de altíssimo valor. Imaterialidade determinante para a existência do negócio, sua valoração no mercado de capitais e sua capacidade de retenção e ampliação da rede de usuários confortáveis com a lógica informativa que lhes é oferecida.
Portanto, o que significa “abrir o algoritmo” no dizer de Musk?
Se aceitamos que algoritmos são mutantes por seu aprendizado e são moduláveis ao sabor das necessidades do negócio, a ideia de abrir algoritmo, ou seja, explicitar as linhas de códigos que o configura, se apresentam duas alternativas plausíveis, embora opostas: a primeira indicaria alguma imutabilidade do processo de modulação definida pelos gestores da plataforma; a segunda seria a implementação de uma modulação contínua, também a serviço dos gestores e com enorme investimento no time de desenvolvedores.
O ponto em questão, em ambas as hipóteses, está na estratégia definida para o negócio. No caso do Twitter, uma estratégia que indicaria o controle da opinião pública por parte de seu novo proprietário.
Ocorre que algoritmos das plataformas não operam sem respectivos modelos de negócio. Tais modelos, no ambiente contemporâneo, estão vinculados a lógicas de monetização que fazem parte de um sistema global focado no capitalismo de plataforma e no colonialismo de dados. As plataformas atuam como uma espécie de oligopólio onde a disputa se dá justamente na relação entre dados – modulação algorítmica – tráfego de conteúdos – retenção de usuários – monetização.
Autores como Jose Van Dijck e Nick Couldry discutem amplamente o cenário oligopolizado demonstrando que as principais plataformas sociais, por eles chamadas de Big Five Apple, Google (Alphabet), Facebook (Meta), Amazon e Microsoft, operam coordenadamente na captação e uso dos dados de 5 bilhões de usuários segundo os dados mais recentes do DataReportal, algo como 63% da população mundial. Não é pouca coisa quando falamos de circulação de todo tipo de informação e de como estas impactam em pessoas de diferentes regiões, sociedades, culturas, níveis cognitivos e possibilidades econômicas.
Os modelos de negócio das plataformas seguem uma receita de mecanismos similares para: captação de dados e sua dataficação, mercantilização e seleção algorítmica. Mecanismos sustentados pela lógica capitalista neoliberal e que ocultam nos algoritmos e modelos de monetização um modelamento da arquitetura da sociedade conectada. Considerando que as Big Five são empresas privadas, ainda que de capital aberto, que preservam seus ativos estratégicos e intangíveis – os fluxos de dados, resulta num controle sociotécnico não democrático em sua essência.
Além disso, é um cenário, no dizer de Couldry, de “uma nova ordem emergente, social e econômica para apropriação da vida humana de forma que se possam extrair dela continuamente dados visando o lucro.”
No caso do Twitter abrir o algoritmo, como propõe Elon Musk, significa uma suposta ruptura na receita de monetização vigente nas plataformas. Em termos. O “abrir” defendido por Musk significa que qualquer usuário poderá ver o código numérico que gerencia o feed, mas não significa que qualquer um poderá interferir no mesmo. Não existe uma alteração no conteúdo da plataforma, portanto, não haveria maior liberdade de expressão.
Especialistas afirmam que o melhor para a sociedade é deixar pública uma lista de regras, quesitos e políticas que regem os algoritmos. Seria uma demonstração de quanto os algoritmos estão imbuídos de justiça, de equidade ao acesso à informação, de indicação de conteúdos que desinformam, de restrição a contas falsas, uso de robôs e fazendas de clicks.
Um cenário ainda longe de acontecer.
Beth Saad é professora titular sênior da Escola de Comunicações e Artes (ECA-USP). Coordenadora do grupo de pesquisa COM+ – Comunicação, Mídias e Jornalismo Digitais. Tem formação na Universidade de São Paulo, sendo Doutora em Ciências da Comunicação, Mestre e Graduada em Administração de Empresas, com foco em pesquisas transdisciplinares nos campos das tecnologias digitais e comunicação. Atua na USP como docente do Programa de Pós-Graduação em Ciências da Comunicação, orientando mestrado, doutorado, além de supervisionar pós-doutorados. Autora de livros, capítulos de livros e artigos em periódicos nacionais e internacionais, e atualmente participa do projeto internacional Journalism: Safety Matters. É consultora no campo das mídias digitais e estratégias de comunicação, atendendo empresas envolvidas com a transformação digital. Também desenvolve treinamentos para profissionais e empresas envolvidos com o mundo digital.