A popularização do uso de ferramentas de inteligência artificial parece ser uma das grandes novidades do ciclo eleitoral de 2024. Ainda há muito pouca capacidade de analisar os reais impactos desse fenômeno, mas entre preocupação e empolgação, já temos um rol de casos identificados de usos de IA em contextos de eleição.
Em um esforço recente feito com os colegas Matheus Soares e Lucas Reis, coletamos alguns desses casos e propusemos uma tipologia desses usos mapeados em diferentes países de março de 2023 a junho de 2024. O texto completo ainda não foi publicado e deve sair em livro em breve, mas compartilho aqui alguns pontos que trazemos para a discussão. Primeiro, decidimos focar no uso de IA para criação de conteúdo. Apesar de menos comentados, os usos dessa tecnologia para distribuição e direcionamento de conteúdo são super importantes e muito menos visíveis. Portanto, nos baseamos apenas nos casos em que a IA foi usada para criar conteúdos novos.
Fonte: Santos, Soares e Reis, 2024 (no prelo)
Segundo, apesar de as deepfakes estarem proibidas no Brasil segundo a resolução 23.732 do TSE, de 2024, há pouca clareza sobre o que elas de fato significam. Em geral os autores falam de uma conjunção entre produção de falsidade + artifícios tecnológicos que pressupõem algum nível de automatização. Portanto, seria um novo processo de produção de fakes que dependeria menos de habilidades e interferências humanas.
Para além disso, é possível pensar em muitos usos diferentes dessas chamadas deepfakes em contexto de eleições. Desde criação de situações com candidatos, até a falsificação de rostos de eleitores, passando por vídeos em que candidatos falam línguas que eles, na verdade, não dominam. Portanto, delimitar os casos é um desafio, mas entender os impactos é ainda mais complexo. Aqui no Desinformante, temos acompanhado esses casos de perto, tanto na nossa página de Eleições quanto na Iaí?
Pois bem, na semana em que começa a propaganda eleitoral no Brasil, o que esperar do cenário nacional? Bola de cristal não há, mas alguns indícios podem nos ajudar. Casos de deepfakes de áudio já têm pipocado por aqui, sobretudo circulando pela mensageria privada, como WhatsApp e Telegram, que são ainda mais difíceis de identificar. Esse formato tem sido especialmente desafiador, visto que há ainda menos indícios para identificar a veracidade/falsidade dele. O que também já temos visto é o uso do argumento da deepfake para se defender e não para atacar. Ou seja, ao contrário da ideia mais corrente de que uma deepfake pode ser criada para prejudicar um candidato opositor, temos visto também que ao sofrer uma acusação um político pode usar o argumento de que na verdade a evidência usada para acusá-lo não é real e sim uma falsificação. Um terceiro elemento é que o histórico de campanhas no Brasil mostra a importância de mobilizações que vão muito além das campanhas oficiais. Geralmente é desse chamado “lado B” das campanhas que saem as maiores inovações. Isso evidentemente torna todo o fenômeno ainda mais difícil de qualificar.
O fato é que será no mínimo interessante (e no máximo problemático) acompanhar os casos de uso de IA nas eleições deste ano à luz das inovações tecnológicas, mas também das regras vigentes. Quem sabe teremos até que criar um espaço especial só pra olhar pra isso!