O Laboratório de Governança e Regulação de Inteligência Artificial do Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (LIA-IDP) e ETHICS 4AI lançaram nesta semana uma nota técnica sobre o entendimento dos tribunais eleitorais em relação ao uso de deepfakes nas eleições brasileiras deste ano. De acordo com o documento, a resolução sobre a aplicação de Inteligência Artificial do Tribunal Superior Eleitoral (TSE) inovou ao estabelecer diretrizes sobre o assunto, mas diversidade de entendimentos marcaram as decisões dos Tribunais Regionais Eleitorais (TREs) pelo país.

Ao todo, foram identificadas 57 decisões proferidas pelos TREs, das quais 56 foram efetivamente examinadas pelo estudo, pois uma delas estava protegida por segredo de justiça. Em relação à distribuição geográfica, os TREs de Pernambuco e de Santa Catarina lideraram com 9 decisões sobre o tema das deepfakes, seguidos pelo tribunal do Paraná com 7 decisões. Os tribunais do Rio Grande do Sul e de Minas Gerais proferiram 5 decisões cada.

Ao analisar as decisões, as organizações concluíram que a resolução 23.732/2024 do TSE, que versa sobre os usos de IA nas campanhas políticas, inovou ao estabelecer pela primeira vez diretrizes para o uso da tecnologia em contexto eleitoral. 

Segundo o relatório, disponível no site do IDP, foram quatro inovações trazidas pelas normas, são elas: a criação de regras de transparência para uso de IA, proibições específicas para deepfakes, responsabilização por meio da configuração de abuso do poder político e a implementação do sistema de “notice and take down” dos conteúdos (aviso e retirada, em português).

“Tais inovações visam criar um ambiente eleitoral mais transparente e seguro contra disseminação de informações falsas, estabelecendo um marco regulatório pioneiro para o uso de IA nas eleições”, avaliou o documento.

TREs tiveram interpretações variadas sobre deepfakes

Apesar do caráter inovador das resoluções do TSE, houve uma variação de interpretações sobre o que constitui deepfake, bem como seus efeitos de verossimilhança e propósito nas decisões do tribunais regionais. 

“Um grupo de decisões adotou uma postura mais permissiva, considerando apenas deep fakes que se assemelham à realidade a ponto de enganar os eleitores. Já outra vertente interpretativa defende uma proibição total, argumentando que qualquer uso de deep fake representa um risco à integridade do processo eleitoral”, consideraram as organizações.

Foram identificadas três tipos diferentes de decisões:

• Permissão condicionada: decisões que permitiram o uso de deepfakes quando não havia pedido explícito de voto ou possibilidade de desinformação.
• Proibição total: corrente mais restritiva, algumas decisões adotaram a visão de que qualquer uso deepfake deveria ser vetado.
• Restrições baseadas na manipulação: decisões que buscaram restringir o uso de deepfakes de acordo com o grau de manipulação e o contexto das propagandas, permitindo, por exemplo, casos de conteúdos satíricos ou que não buscavam distorcer a imagem do candidato, e condenando deepfakes para criar fatos falsos ou descontextualizados.

A pesquisa também destacou a necessidade de interpretações claras e uniformes para abordar o uso de deep fakes nas eleições brasileiras: “Os tribunais têm enfrentado desafios significativos para estabelecer um entendimento uniforme, dada a complexidade do fenômeno e suas ramificações tecnológicas”.

“Ao mesmo tempo, é essencial que a Justiça Eleitoral avance na delimitação do conceito de deep fake, abrangendo sua relação com desinformação e impacto sistêmico no processo eleitoral”, trouxe o documento.

Viralização e apps de mensageria

Outro ponto destacado pelo documento foi o uso de aplicativos de mensageria, como o WhatsApp, no compartilhamento dos conteúdos feitos com IA. Dos 56 casos analisados, 21 deles tinham essas plataformas como local de circulação. Além disso, em todos os 21 casos o potencial de viralização foi um critério crucial utilizado pelos tribunais para aplicação da norma do TSE.

Em Santa Catarina, por exemplo, ao analisar um caso de vídeo modificado com uso de IA, o TRE-SC entendeu que a peça, apesar de ser um conteúdo inverídico, não configurava propaganda política antecipada por ter sido compartilhada em um grupo privado de WhatsApp. 

Decisões não trataram de deepnudes

Apesar de casos envolvendo deepnudes com focos em candidatas terem aparecido na imprensa durante o primeiro turno, o estudo não identificou decisões que abordassem esse tipo de conteúdo no contexto eleitoral. Segundo o documento, isso pode ter acontecido por algumas razões, como a demora na investigação dos casos, a dificuldade das vítimas em acionar a Justiça Eleitoral e o impacto da denúncia na vida pessoal e na campanha da vítima.

“Considerando a dificuldade processual de comprovação de autoria e materialidade, exigidas pelos tribunais eleitorais, assim como os danos irreversíveis sofridos pelas vítimas de deep nudes, o que poderia acarretar prejuízo inestimável para candidatas mulheres, seria fundamental estabelecer normas e políticas específicas para lidar com esse desafio”, sugeriu o documento.