Neste ano, pela primeira vez, o Brasil realizará eleições com a presença generalizada e acessível das ferramentas de Inteligência Artificial generativa, com o risco iminente do crescimento de deepfakes de cunho político. Nas resolução de propaganda política para o pleito, o Tribunal Superior Eleitoral (TSE) proibiu esse tipo de conteúdo sintético nas campanhas, mas, apesar disso, as primeiras decisões judiciais envolvendo deepfakes mostram a dificuldade em padronizar o entendimento de dano desse fenômeno. A falta de uma regulação de IA em vigor é uma das razões.

Um caso que ganhou repercussão na imprensa recentemente foi a decisão do Tribunal Regional Eleitoral de São Paulo (TRE-SP) envolvendo uma deepfake do prefeito de São Paulo Ricardo Nunes (MDB) postada pela deputada federal Tabata Amaral (PSB-SP). A corte decidiu negar a ação movida pelo partido do prefeito contra Tabata, afirmando que a peça não representa propaganda eleitoral antecipada e que não “utiliza deepfake”.

“Não há a mínima possibilidade de o eleitorado compreender que o Prefeito Ricardo Nunes – se é que ele venha a ser reconhecido – tenha abandonado a política para assumir qualquer outra posição, seja de namorado da Barbie ou de dançarino/cantor”, argumentou a relatora do TRE, a juíza Maria Claudia Bedotti. Outros exemplos nos estados do Rio de Janeiro e Paraíba foram levantados pelo Estadão.

Para Tainá Aguiar, professora de Direito, Tecnologia e Inovação no Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), as dificuldades em padronizar as primeiras decisões ocorrem por três razões: a falta de uma regulação de Inteligência Artificial que estabeleça diretrizes gerais, o caráter de novidade dos casos e a necessidade de conhecimentos de tecnologia para se chegar às decisões.

“A avaliação do contexto é fundamental, vai ser provavelmente caso a caso, e isso pode confundir”, analisa a pesquisadora.

Tainá destaca os desafios que a falta de uma regulação de IA trazem para a resolução do TSE – o projeto de regulação ainda aguarda votação no Senado brasileiro. De acordo com a professora, apesar das resoluções terem sido feitas com base em audiências públicas e buscarem abranger o estado da arte do tema, “não existe ainda uma regulação de IA e isso dificulta a padronização”.

A falta de uma regulação de IA em vigor também trará dificuldades para lidar com as deepfakes criadas pelos eleitores, práticas que não são consideradas pela resolução do TSE, que foca nas peças criadas pelos candidatos. “Se tivéssemos uma regulação, já abrangeria tudo”, comenta a professora. 

“Mas, de todo modo, é possível punir as plataformas pela resolução”, afirma Tainá. “As plataformas que não terão programas de combate às deepfakes também podem ser punidas.”

Deepfakes: conceito claro, mas dano relativo

Tatiana Dourado, diretora de Formação e Literacia Digital do Instituto Democracia em Xeque e secretária executiva da Sala de Articulação contra Desinformação (SAD), comenta que, no âmbito acadêmico, já há um conceito definido em relação às deepfakes, mas que os potenciais de dano e de desinformação desses conteúdos são relativos.

“Por padrão, entende-se deepfake como imagens sintéticas que são criadas a partir de tecnologias de IA e aprendizado de máquina que permitem a reprodução de padrões de imagens que foram combinadas, fundidas e trocadas com uma aparente autenticidade”, explica Dourado.

A pesquisadora diz que, na política, as deepfakes são usadas principalmente para fins satíricos, buscando reforçar a ridicularização de atores políticos, tendendo a ter “uma linguagem mais pesada do que até então era habitual”. Dourado é coautora de um artigo sobre deepfakes e sátira política publicado no livro “A cultura dos memes” da Editora da Universidade Federal da Bahia (EDUFBA).

“Qualquer conteúdo satírico, quando não é interpretado como tal, pode gerar engano”, explica. “O engano não vem necessariamente da falsificação, mas o hiper-realismo, quando bem usado, pode intensificá-lo.”

Além disso, as deepfakes podem ser usadas em campanhas de desinformação e de propaganda negativa. No primeiro caso, não se tem um emissor definido e são reproduzidas para fins maliciosos. “Isso tende a gerar danos diretos à figura política retratada e ajudar a desequilibrar o processo eleitoral”, comenta. Já o segundo caso se configura em conteúdos da campanha eleitoral direcionado a eleitores com críticas contundentes ao oponente.

Quando questionada sobre o possível cenário das eleições deste ano, Tatiana acredita que o possível risco seja o uso de deepfakes para levantar dúvidas sobre a segurança do voto, narrativa que repercutiu em pleitos anteriores. Além disso, há a possibilidade de criação de deepfakes pornográficas para atacar candidatas mulheres. 

“Tendo em vista a quantidade de dados disponíveis para criar pornografia falsa, entendo que há sempre um grande uso de deepfakes sexistas contra candidatas mulheres, o que precisa ser monitorado de perto para impedir qualquer tentativa de inibição da participação política de mulheres candidatas”, conclui.

O que diz a resolução do TSE?

Em março, o TSE aprovou e divulgou as resoluções específicas para as eleições deste ano, incluindo regras para o uso de Inteligência Artificial. O parágrafo primeiro do artigo 9-C da resolução sobre propaganda política afirma que: 

“É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake).”

O descumprimento da regra, de acordo com o documento, configura abuso de poder político e uso indevido dos meios de comunicação social, acarretando cassação do registro ou do mandato.