“O que tem que ser criminalizado no Brasil para o combate à desinformação não é o conteúdo, como pensávamos algum tempo atrás, mas o processo. Qual processo? É você estar enganando uma parcela significativa da população, que olha para aquele conteúdo e acha que é um cidadão, uma cidadã que está divulgando, sendo que na verdade existe toda uma infraestrutura oculta de robôs, de fazendas de servidores, de bunkers, alguém que está produzindo, editorializando aquele conteúdo para ele sair. Então isso é uma enganação, as pessoas estão sendo enganadas”, sintetiza Ronaldo Lemos, nesta entrevista concedida para a série #panorama2022.

Advogado e especialista em tecnologia. Lemos fundou o Instituto de Tecnologia e Sociedade (ITS Rio), que vem contribuindo que forma significativa para o debate da desinformação. Uma das saídas propostas pela instituição e esmiuçada por Lemos nesta entrevista é o ´Follow the Money’, seguir o rastro dos financiadores de campanhas desinformativas em massa para conseguir atingir a estrutura do processo.

Lemos é também presidente da comissão de Tecnologia e Inovação da OAB-SP e pesquisador na Universidade de Columbia, além de professor da cadeira de direito de informática da UERJ.

A série #panorama2022 traz entrevistas com jornalistas e pesquisadores para traçar perspectivas para 2022 a partir de olhares de diversas áreas e experiências.

 

João Brant: Desde o começo das discussões sobre a desinformação, você reforça muito a importância de se seguir o dinheiro, a ideia de buscar os financiadores das grandes redes de desinformação. O que significa, na prática, essa ideia e quais os avanços e dificuldades em relação a ela.

Ronaldo Lemos: Falar com muita gente é sempre caro, não importa qual é a mídia, não importa se você está na TV, no rádio, na internet, se você quiser falar com 50, 60, 70 milhões de pessoas você vai precisar gastar dinheiro, não tem jeito, e vai precisar gastar muito dinheiro. Essas campanhas articuladas que a gente tem visto no Brasil e também em outros países, que falam para 50, 60, 70 milhões de pessoas, têm um financiamento por trás, elas não são espontâneas, elas não viralizam só por causa do algoritmo das empresas. Elas exploram o algoritmo, mas elas constroem infraestrutura também própria, seja por meio de robôs, fazendas de servidores, fazendas de chips, fazenda de celulares, bunker de produção de conteúdo, de uma série de outras estratégias que permitem que elas cheguem num número muito grande de pessoas aqui no Brasil. Então quando eu sempre falo e levanto essa questão do ´Follow The Money´ porque precisa entender quem é que está financiando isso de forma oculta. Financiar uma campanha desse tamanho, de forma oculta,  tem vários ilícitos ali nesse processo. Inclusive ilícitos de fraude processual, falsa identidade, falsidade ideológica, sem falar calúnia, injúria, difamação. Então não é admissível que você não tenha transparência em campanhas que são feitas de forma anônima. O objetivo desse Follow The Money é buscar quem é que está engajado em ter uma presença na esfera pública brasileira desse tamanho, quem é que está pondo esse dinheiro, mobilizando recurso computacional, recursos de pessoas, financeiros e assim por diante, para conseguir esse efeito. Essa estratégia vale para o Brasil, para vários lugares do mundo, mas no Brasil ela é especialmente importante, porque o nosso financiamento de campanhas é público. A gente teve uma mudança importante no modelo de financiamento de campanha e hoje não é possível você financiar uma operação desse tipo sem que aquilo esteja declarado nas prestações de contas e assim por diante. Então além de tudo que eu falei, todos os ilícitos, você tem também fraude eleitoral, né? Você pode ter entidades privadas e empresários e pessoas físicas, inclusive, que estão envolvidas em violar a lei ao financiar esse tipo de ação. Isso precisa mudar. No Brasil, por muito tempo, nós só combatemos o conteúdo. A gente achava que lidar com desinformação era olhar para um determinado conteúdo e tentar tirar ele do ar, na medida que aparecesse. A gente nunca olhou para o que estava embaixo da engrenagem. Por que esse conteúdo está aqui? De onde ele veio? Quem produziu esse conteúdo, por que ele está circulando dessa forma? E isso começou a mudar recentemente no âmbito no Supremo Tribunal Federal, onde o ministro Alexandre de Moraes começou, de uma forma que eu nem acho tão profunda, a olhar não só para o conteúdo em si, mas a olhar de onde esse conteúdo estava vindo, quem estava produzindo, quem estava circulando e assim por diante. Ao fazer isso, ele causou um abalo sísmico na esfera pública brasileira, ele gerou um temor, inclusive por parte das pessoas que estavam financiando e envolvidas nessas operações, de que, opa, agora descobriram como a gente estava atuando e eu posso ter repercussões legais e jurídicas. Então eu acho que o Follow The Money não é uma bala de prata, ele não vai resolver todos os problemas, mas eu acho que ele ajuda enormemente a, vamos dizer, olhar para essas campanhas massivas de desinformação que querem falar com 50, 60, 70 milhões de pessoas.

João Brant: Maravilha. No processo da Comissão Parlamentar de Inquérito, a comissão publicou no seu relatório final um capítulo específico sobre fake news, tem cerca de duzentas páginas, e descreve, aqui eu trago para as minhas palavras, algo que pode ser visto como uma organização criminosa com cinco núcleos. Quer dizer, eles não falam em organização criminosa, mas eles falam em cinco núcleos responsáveis por campanhas de desinformação: o núcleo político, o núcleo financiador, produtor, disseminador, tem mais um deles ali. Eles vão descrevendo como é que essas forças se articulam, um deles é um núcleo de financiamento desse processo, com nomes; há um esforço de investigação.  Por outro lado, o relatório sugere o indiciamento desses membros por incitação ao descumprimento de medida sanitária, que no fundo é um crime de baixíssimo teor e não descreve o tamanho do problema que este núcleo criou em conjunto. O que está faltando é um tipo penal? Do tipo que está previsto ali no PL do Orlando (PL2630), onde se prevê que para essas grandes operações haja uma criminalização? Ou a turma não soube ler nesses processos?

Ronaldo Lemos: Perfeito. Bom, primeiro eu acredito que o tipo penal é importante.  E ele tem que ser um tipo penal simples. O que tem que ser criminalizado aqui não é o conteúdo, a gente não pode criminalizar ainda mais conteúdo, mas o processo.  Qual é o processo que está sendo criminalizado num possível tipo penal? É você estar enganando uma parcela significativa da população, que olha para aquele conteúdo e acha que é um cidadão, uma cidadã que está divulgando, sendo que na verdade existe toda uma infraestrutura oculta de robôs, de fazendas de servidores, de bunkers produzindo, editorializando aquele conteúdo para ele sair. E eu acho que é esse processo de enganação massiva que tem que ser criminalizado. O tipo penal teria que falar algo do tipo: você financia de forma oculta campanhas de comunicação usando recursos financeiros, humanos, poder computacional, leva sim a uma atividade ilícita. Não interessa aqui qual é o conteúdo. Porque o que é perturbador é que as pessoas que engajam e fazem esse tipo de ação sabem que estão fazendo uma coisa errada, tanto que elas não colocam o nome delas para escrutínio público, para as pessoas olharem e falarem: “ah, quem está por trás disso é o fulano ou o cicrano”. Elas ocultam seus passos,escondem essas operações muito bem escondidas.

Faz sentido ter algum tipo de inciso criminal ou mesmo civil que permita investigar, que o Ministério Público possa investigar, que a gente tenha a estrutura, por exemplo, da Polícia Federal para investigar esse tipo de ação. E mais do que isso: sinalizaria para o Poder Judiciário, para o TSE, para os juízes, os milhares de juízes de primeira instância, de que tem um negócio aqui que não é aceitável num país que é um Estado Democrático de Direito, que tem princípios constitucionais inclusive sobre a comunicação social, o artigo 220 e seguintes da Constituição tratam de comunicação social.

Acho que esse pequeno avanço na lei concretizaria tudo isso que a gente está falando, seria um artigo simples, direto, objetivo, que não criminaliza conteúdo, mas criminaliza o método porque não dá para realmente aceitar que seja aplicado e que milhões de pessoas sejam enganadas todos os dias, achando que está havendo uma comunicação no mensageiro do seu celular, sendo que aquela comunicação foi editorializada, editada, publicada, viralizada usando dinheiro.

João Brant: O ITS acompanhou as eleições de 2018, 2020 com estudos específicos e ao mesmo tempo, acompanha as discussões na Justiça Eleitoral e plataformas. O que você poderia nos dizer sobre 2022 no Brasil? Em que medida sociedade, Justiça Eleitoral e plataformas estão mais preparados hoje do que quatro anos atrás?

Ronaldo Lemos: Olha, João, 2022 vai ter tudo que teve em 2018 e mais, tá? Então não é que mudou, acabou, não vai acontecer. Tudo que a gente viu acontecer em 2018 continua e além disso tem estratégias novas, que a gente pode até falar sobre elas, que também vão ser aplicadas nesse ano. O TSE vive sempre numa briga de gato e rato. Em 2018 ele se preparou para enfrentar o Facebook, o Twitter e outras redes sociais e o que acabou pegando foi o WhatsApp. Então ele não estava preparado naquele momento para enfrentar campanha em mensageiro. E, de novo, a metodologia evoluiu. Nesse ano, 2022, vai estar mais difícil usar essas redes internacionais, como o Facebook,  Youtube, o Twitter, por que? Porque eles viveram o trauma do 6 de janeiro, da eleição do Trump, do Biden, a invasão de Capitólio e como a desinformação teve um papel nessas questões todas. E eles vêm tomando medidas que estão dificultando sim a propagação de notícias falsas. As empresas criaram mecanismos para ou dificultar ou tornar mais caras essas operações de desinformação, então isso mudou. Não acabou com esse processo, eles ficaram mais caros. Então antes você precisava colocar um dinheiro X, hoje talvez você precise de 2X para ter o mesmo resultado, mas as pessoas continuam colocando dinheiro lá. A outra coisa que mudou foi estratégia, está havendo uma fusão entre campanhas de desinformação e ciberataques. Você usa o ciberataque pela capacidade que ele tem não só de produzir um dano, às vezes de roubar um dado, alguma coisa assim, mas a capacidade de mobilização, de gerar medo, insegurança, incerteza. E ao gerar esse medo, você captura a atenção das pessoas e em cima dessa atenção você solta as campanhas de desinformação…

João Brant: Você tem um exemplo que materialize isso, Ronaldo?

Ronaldo Lemos: Tenho, na eleição municipal foi exatamente o que aconteceu. Você teve um ataque planejado aos sites do TSE no dia da eleição, né? Foi um ataque simplório, não é nada que teve repercussão ou que afetou qualquer sistema da urna,   usaram lá um ataque de negação do serviço, que do ponto de vista de cibersegurança é considerado como simples, só que foi feito no dia da eleição, um dia crítico, sensível, ninguém sabia o que estava acontecendo, aquilo gera um pânico, gera um medo que você não sabe qual é a profundidade do ataque, o que mais que vai vir ali. E na sequência, no mesmo dia, de forma coordenada, uma campanha de desinformação para gerar uma série de temores, de críticas, inclusive ao próprio TSE, às urnas e assim por diante.  Então uma coisa propulsionou a outra, entendeu? Então essas estratégias estão acontecendo, a gente está vendo hoje uma fusão entre ciberataques e desinformação. E essa estratégia é que a gente vai ver acontecer muito ao longo desse ano. E de novidade você tem plataformas novas, como é o caso do Telegram, do Gettr e outras, que não estão presentes no Brasil, e vêm ignorando sistematicamente todo e qualquer pedido de contato por parte de autoridades brasileiras. Então eu acho que a gente vai ter tudo o que a gente teve em 2018 e pelo menos mais duas estratégias, essa confluência de ciberataques com campanhas de desinformação, conjugadas com plataformas novas que estão fora do alcance da justiça brasileira.

João Brant: Você diria que, independentemente de Telegram, o que a legislação e as empresas oferecem, em termos de informação, é suficiente para a Justiça Eleitoral atuar?

Ronaldo Lemos: Olha, não é suficiente e nunca vai ser, mas ajuda. Só de estarem presentes, terem aberto um canal de comunicação, estarem conversando, atendendo a pedidos, estabelecendo um diálogo, isso ajuda muito. Por que ajuda? Porque o combate a ciberataques e campanhas desse jeito precisa ser multisetorial. Há muito pouco que o poder público pode fazer sozinho. Você precisa da atuação do poder público, das empresas privadas, da comunidade científica do país, da sociedade civil organizada e assim por diante. Então esse não é um problema que só um setor da sociedade resolve sozinho, você precisa atuar de uma forma colegiada e multisetorial. E aí eu acho que depois tem que trazer melhor a sociedade civil, trazer a comunidade científica acadêmica e assim por diante. Mas é assim que você tem eficácia. É criando um esforço que seja realmente multisetorial. Então nesse ponto eu acho positivo. Agora, nada é perfeito, sempre tem lacunas, tem brechas. Mas eu vejo como um embrião de um processo multisetorial pelo menos o fato de algumas empresas privadas estarem se sentando com o poder público.

João Brant: Queria te escutar um pouco sobre a China.  Tivemos ano passado um cenário de tensão entre o governo chinês e as próprias empresas de tecnologia chinesas, que oferecem mais do que redes sociais, são aplicativos  de um uso muito amplo e onipresente na vida chinesa. Olhando para um cenário hoje, o que os últimos movimentos do governo chinês denotam? Ou seja, o que a gente tem que ficar atento em relação ao que está acontecendo ali e o que isso nos indica em relação às possibilidades de arranjos ou rearranjos na dinâmica tecnológica global?

Ronaldo Lemos: É curioso porque no Ocidente começou a haver um questionamento muito grande com relação a big techs, inclusive do ponto de vista antitruste, de que teria havido muita concentração de poder, um questionamento sobre funcionamento dos algoritmos e assim por diante. E o Ocidente gerou essa pauta e começou a avançar com essa pauta, mas caminha muito devagar, inclusive não sei nem se vai prosperar no Ocidente esse tipo de discussão. E o que aconteceu foi que a China leu essas ponderações que surgiram no Ocidente, viu o que muitos acadêmicos e pessoas envolvidas em políticas públicas no Ocidente estavam levantando com relação a esses problemas, olhou para o seu próprio contexto de evolução tecnológica que, de certa maneira, até emula o Ocidente, no sentido de gerar big techs locais, que vão competir globalmente, e começou a falar: “realmente, tem um problema aqui, tem coisas aqui que precisam ser modificadas”. E a China começou antes do Ocidente a entrar em discussões sobre regulação dos algoritmos, transparência dos algoritmos, inclusive começou a debater temas como ética e inteligência artificial, e começou a tomar medidas práticas com relação ao poder econômico das próprias empresas de tecnologia, dentre as quais eu acho que o grande exemplo é o cancelamento da oferta pública de ações do Grupo Alibei, Alibaba, um dos braços do Ant Financial, especificamente, que é o braço financeiro do Grupo Alibaba. O gruupo ia fazer um IPO (Oferta Pública Inicial), ia ser o maior IPO do mundo, e esse IPO simplesmente foi cancelado por razões regulatórias. A gente está vendo uma concretização de uma agenda que surgiu no Ocidente e que está sendo agora adotada na China com características chinesas, como sempre, com relação ao que eles estão fazendo lá. Isso serve de modelo para o Ocidente? O debate talvez, mas muitas vezes o método não.  Porque a história da China é muito diferente da história das democracias ocidentais. A China tem uma história muito única, então não dá para copiar o que a China faz e eu acho que o modelo político da China é muito específico e não serve de modelo nem para o Brasil nem para nenhum outro lugar. Mas o debate é interessante de ser acompanhado e especialmente curioso de que essa agenda ocidental tenha avançado primeiro na China.

João Brant: Ronaldo, você e Catalina Botero são os membros latino-americanos do Oversight Board, que já tem umas duas dezenas de casos analisados, alguns que confirmam, outros que revogam decisões da própria empresa. Em que medida você acha que ele tem contribuído para as questões relativas à moderação de conteúdo, que são evidentemente bastante desafiadoras, e onde ele se coloca como uma das estratégias de enfrentamento, vamos dizer assim, do problema pela própria empresa Meta?

Ronaldo Lemos:  O Oversight Board é um experimento de imaginação institucional e por isso mesmo que ele a mim me interessa muito, porque eu acho que a gente está vivendo um momento que nós vamos precisar criar novas instituições para dar conta de problemas novos. Eu não acho que as instituições que a gente tem hoje vão dar conta de lidar com a complexidade, sobretudo dessa mudança tecnológica, no mundo que a gente vive hoje, basta ver a justiça brasileira em face ao Telegram – o que a justiça brasileira pode fazer em face do Telegram? É muito difícil responder a essa pergunta, porque a empresa não tem sede no Brasil, é uma empresa russa, não atende a nenhum pedido da justiça brasileira, e isso demonstra uma limitação institucional da própria forma como as justiças nacionais operam em face a serviços que globalizaram, que se tornaram globais e assim por diante. Então eu acho que a gente vai precisar evoluir as instituições para dar conta desses novos problemas. E o Oversight Board, na minha opinião, é o modelo mais novo, mais sofisticado até, de um novo tipo de instituição que surgiu a partir desse novo tipo de problema. Então ele é um conselho global, foi criado por uma empresa privada, que é o Facebook/Meta, só que o Facebook deu total independência a esse conselho. O processo de criação desse conselho é muito interessante, tem inclusive um artigo excelente da Kate Klonick contando das inúmeras consultorias que foram feitas e das conversas a respeito do design, da arquitetura desse conselho, e eu acho que foi tudo muito bem feito. Eu como membro, fico até impressionado do ponto de vista de como é independente mesmo, por exemplo, eu como membro não posso ser demitido pelo Facebook, eu não tenho que tomar nenhuma decisão no conselho que seja feita para maximizar o valor das ações da empresa ou um lucro dos acionistas ou interesse da empresa. Então isso para mim é muito interessante. Eu tenho mandato…

João Brant: É um trust que fez a montagem, né?

Ronaldo Lemos: Isso, a instituição é independente, a sede é na Inglaterra, tem uma doação do Facebook e mais de 100 milhões de dólares irrevogáveis, que foram dados à organização. E não só isso, há um compromisso do Facebook de se subordinar às decisões que o conselho tomar com relação a conteúdo e mais do que isso: o conselho também pode dar orientações, vamos dizer, decisões a respeito de mudanças de políticas do Facebook. Essas mudanças não são vinculantes, tal como é a questão, por exemplo, de você deixar um conteúdo no ar ou remover aquele conteúdo, mas o Facebook tem obrigação de responder a essas recomendações de políticas que o conselho faz.

João Brant: Já houve alguma mudança de política do Facebook com base em recomendações do conselho?

Ronaldo Lemos: Inúmeras. E isso tem sido também surpreendentemente positivo. A maioria das recomendações de política, que o conselho tem feito, o Facebook não só tem atendido, como tem feito um cronograma de implementação para essas mudanças. E tem mudanças muito significativas. Por exemplo, em um dos nossos casos, o conteúdo havia sido removido por requisição governamental, foi um governo que chegou para o Facebook e falou: “tira esse conteúdo do ar”, e por conta da lei local o conteúdo foi removido. E o conselho, por exemplo, determinou que todas as vezes que um conteúdo seja removido por requisição governamental, isso seja tornado transparente, que as pessoas saibam a razão da remoção daquele conteúdo como pedido governamental. E essa política foi sugerida pelo Board e foi aceita pelo Facebook. Então só essa mudança já é uma mudança gigantesca do ponto de vista de política pública, política da empresa e da forma como ela atua. E quando você olha… isso tudo está disponível publicamente no site do conselho, mas tem lá todas as… uma a uma todas as recomendações que o conselho fez, qual foi a resposta do Facebook, prazo de implementação e assim por diante. Então eu acho que essa instituição nova que surgiu, ela tem sido eficaz e eu acho que ela serve de modelo inclusive para que outras instituições, ou até o próprio Board passar a trabalhar com mais empresas ou coisa do tipo, isso possa acontecer. Então eu acho que a gente vai precisar muito de imaginação institucional, de que a gente consiga criar novas instituições que sejam capazes de lidar com esses desafios novos que a gente tem no mundo de hoje.

João Brant: Maravilha, Ronaldo. Você acha que os arranjos próprios da Web 3.0 possibilitam avançar no enfretamento ao problema da desinformação?

Ronaldo Lemos: É bom ponto. A gente tem falado no ocidente muito dos problemas da centralização. A big tech, a concentração de poder etc. Mas eu acho que a Web 3, e o potencial movimento de descentralização que ela vai trazer, vai trazer problemas próprios. Então a gente uma dupla tarefa, que é pensar os problemas da centralização e pensar os problemas também da descentralização. A Web 3 pode ajudar a combater um pouco as fake news e campanhas massivas? Talvez, talvez se avançar, por exemplo, na pauta de identidade digital e esse tipo de coisa ajude algumas coisas. Mas ela pode trazer também problemas que hoje são quase que irremediáveis. Por exemplo, plataformas que são operadas de forma autônoma, que não têm nenhum gestor, que elas não passam por um código de programação, e nessas plataformas o conteúdo seja irremovível. Ou você derruba a plataforma inteira ou você não consegue remover conteúdo nenhum. Então a gente ainda está na infância desses problemas, mas eu realmente acho que a gente vai ter desafios que vão vir tanto da centralização, como os que a gente tem hoje, como também desse movimento de descentralização, que vai trazer um monte de problemas novos também.