Apresentei uma conferência no Seminário Arendt Tech, organizado pelo Núcleo de Estudos da Violência (NEV-USP), cujo tema era “Desinformação e a indústria da autenticidade”. Compartilhei mesa com o pesquisador Thiago Dias que apresentou o trabalho “Política, espaço público e tecnologia”. Estudioso e especialista que é na obra de Hannah Arendt, ele trouxe dois problemas extremamente interessantes: os algoritmos estariam sequestrando o campo da política e as telas estariam ocupando o que antes chamávamos de espaço público. Mas, se os algoritmos são apenas um conjunto de regras ou instruções de funcionamento ou vivência, podemos supor que não seriam eles sozinhos os responsáveis pela corrosão da esfera pública e pelo esfacelamento do político. Quem, então? A resposta óbvia e já amplamente difundida: as plataformas e suas redes sociais. São elas que configuram os vínculos que estabelecem os modos de conectividade e comunicação atualmente.
Já é ponto praticamente passível – e comentei este aspecto em outro artigo publicado aqui – a responsabilidade das plataformas na crise de credibilidade e de confiança que marca a era da desinformação. As dinâmicas normativas eminentemente sociais e coletivas de como se constituem e se instituem as normas, valores e regras foram definitivamente plataformizadas. Ao analisar a governamentalidade algorítmica já havia descrito como os algoritmos são o elemento mediador entre dados e metadados do ponto de vista informacional, e entre normas e valores, do ponto de vista social. Não à toa as plataformas são um campo privilegiado de polarização e guerra moral e política, pois é ali que as mediações e conexões são instituídas.
Até aí, uma moralização e politização das plataformas poderia ainda recuperar o campo do político e do social e a esfera pública, para o controle, ou ao menos a mediação das instituições democráticas. Mas, e se radicalizarmos a hipótese e nos perguntarmos: ao ocupar justamente o espaço de mediação e conexão acima referido, as plataformas não teriam finalmente se tornado verdadeiras instituições? E se, além de falarmos do poder político, do poder jurídico, do poder legislativo, etc. exercidos pelas instituições democráticas tradicionais, tivéssemos que falar de um poder informacional ou conectivo?
Algo parecido com essa hipótese, encontrei nesta entrevista que o professor Vili Lehdonvirta concedeu a Rafael Grohmann do DigiLabour. Ele toma a definição de Douglass North de que “as instituições são as regras do jogo, que estruturam as interações na sociedade” e a partir disso propõe que “uma abordagem institucional para estudar a economia de plataformas é realmente útil porque nos pede para pesquisar como as empresas de tecnologia estão mudando as regras do jogo”.
As plataformas já começam a atuar como instituições ao mediar o cumprimento de contratos e de identidades digitais, ao diferenciar comportamentos autênticos e inautênticos; são elas que arbitram amplas gamas de relações sociais, de conflitos políticos, de informações que circulam, tecendo a trama dos perfis e dos assuntos que são relevantes. As plataformas governam os circuitos de retroalimentação (feedback) entre normas e valores sociais; o papel político que as instituições tradicionais ocupavam por meio das leis, contratos, figuras de autoridade do saber e do poder, burocracias e etc. hoje é co-ocupado por essas novas instituições que são as plataformas. Processos judiciais, por exemplo, são hoje quase todos mobilizados ou permeados por dados fornecidos e produzidos pelas plataformas.
Se essa hipótese estiver correta, além de todos os problemas que estamos enfrentando – e em relação aos quais a desinformação é apenas a ponta do iceberg –, talvez tenhamos que considerar uma dificuldade ainda suplementar. Se as plataformas ocupam, co-ocupam ou disputam os espaços ocupados justamente pelas instituições tradicionais, como esperar que estas possam regular e regulamentar aquelas?
Em outros momentos históricos a relação entre os poderes democráticos constituídos foi alvo de disputas e regramentos jurídicos. Evidentemente, podemos esperar e lutar por algo similar agora. Precisamos avançar rapidamente em caminhos de regulamentação para que o papel social e político das plataformas siga “regras do jogo”. Isto é o que deve acontecer com todas as instituições (estatais ou privadas) que têm relevância na democracia.
Contudo, a Democracia pede Socorro e as dinâmicas de remoção de conteúdos e perfis ocorrida nas últimas eleições nos faz suspeitar se o que é pedido às plataformas nesses casos não acaba por justamente fortalecer seu papel institucional; ali onde as outras instituições já não conseguem mais atuar – ou apenas podem atuar por seu intermédio.
Talvez, então, um caminho complementar ao da regulamentação seria o de criar narrativas fortes e mobilizações amplas o suficiente para forçar dinâmicas de accountability (mecanismos de prestação de contas) por parte das plataformas – elas poderiam circular pelas redes das próprias plataformas. Tomemos um caso como exemplo – tendo em conta que, possivelmente, uma lógica análoga poderia ser expandida para outras situações através de nossa imaginação política.
Como garantir transparência e responsabilidade das plataformas
Um dos problemas muito discutidos em relação aos algoritmos é a sua falta de transparência. As plataformas dominam o que Frank Pasquale denominou as caixas-pretas que controlam o dinheiro e a informação. O velho argumento para não abrir a caixa-preta e dar acesso aos algoritmos utilizados pelas plataformas é o da propriedade intelectual e de que tal exposição afetaria a livre concorrência e os negócios. Pois bem, um artigo que completará 80 anos e que é um marco do surgimento das tecnologias digitais pode nos sugerir um caminho alternativo – ou, ao menos, complementar ao da transparência dos algoritmos.
Em 1943, Arturo Rosenblueth, Norbert Wiener e Julian Bigelow publicam Behavior, Purpose and Teleology, um dos artigos fundadores da cibernética. Ali, eles afirmam que para estudar e controlar os comportamentos não é necessário conhecer o estado interno de um indivíduo, mas apenas os estímulos de entrada e as respostas de saída, os inputs e outputs, ou seja, as informações que o indivíduo recebe e transmite. As características estruturais de cada indivíduo se expressam nas mensagens que ele troca com o seu meio. Aliás, é no contexto da cibernética que em 1936 Turing propôs o conceito de algoritmo que usamos até hoje e que Von Neumann propôs a arquitetura do computador que estrutura nossos dispositivos digitais. Mas, voltando ao texto de Rosenblueth, Wiener e Bigelow, eles estavam lidando com um problema bastante concreto: como programar um canhão antiaéreo para acertar um alvo em movimento e que pode ter reações imprevisíveis aos disparos anteriores? Bem, eles não podiam estar na cabeça do piloto que o canhão deve ser capaz de alvejar; tampouco podem prever o algoritmo – o treinamento – que orienta suas manobras de fuga. O que é possível é criar um sistema que seja capaz de aprender com as informações coletadas a partir de feedbacks e programar, por meio do cálculo probabilístico, possíveis reações que façam ser exitoso o propósito do canhão: derrubar o inimigo.
De modo análogo, poderíamos nos perguntar: é necessário conhecer o interior das redes, o coração dos algoritmos das plataformas; ou, apenas com o acesso aos dados sistematizados dos inputs e outputs nas redes seria possível estabelecer mecanismos que possam melhorar o ecossistema? Assim como o Big Data permite a criação de bolhas, caixas de ressonância e o oferecimento de conteúdo personalizado para cada perfil, também não seria possível reverter a ordem revelando as interações que produzem as bolhas e seus comportamentos correlatos e os individualismos que são fomentados na rede? Tendo acesso a dados confiáveis e sistematizados sobre os inputs e outputs não seria possível conhecer o que os algoritmos produzem, mesmo sem adentrar o interior de seu código?
As plataformas poderiam ser parcerias para dar transparência sobre o que seus algoritmos estão produzindo e que inputs e outputs os fazem chegar a esses resultados. Talvez, isso pudesse as fortalecer e renovar seu modelo de negócios enquanto instituições democráticas – diferentemente das que caminham para a absoluta privatização, como o Twitter. Não seria o primeiro “inimigo do Estado” que passaria a compor o interior de seu funcionamento e a determinação aberta das regras do jogo.
Antes do golpe dado em Salvador Allende em 1973 no Chile, um grupo de cibernéticos liderados por Stafford Beer, Humberto Maturana, Francisco Varela e Fernando Flores, foram incumbidos por Allende de desenvolver o projeto Synco (Cybersin), o sistema cibernético de organização e planejamento econômico e social que fortaleceria seu governo socialista. Talvez possamos lutar pela abertura das alamedas do acesso, transparência e controle civil-cibernético sobre o que os algoritmos estão gerando e produzindo moral, política e socialmente. Outro ensinamento da cibernética é que alguns tipos de comportamentos devem ser entendidos como autorregulados; e a autorregulação ocorre a partir das informações e da interação com o meio.