Onde você estava quando viu pela primeira vez a deepfake do casaco do Papa Francisco? Acreditou de primeira ou achou tudo estranho? As imagens falsas do pontífice vestindo um casaco “puffer” super estiloso, criadas com Inteligência Artificial generativa, estão completando um ano. De lá para cá, a previsão de alguns pesquisadores sobre o assunto se concretizou: as deepfakes estão ganhando cada vez mais o ecossistema informacional, confundindo pessoas e influenciando eleições mundo afora. Tudo isso num processo de aperfeiçoamento estético veloz que melhora as falhas técnicas e torna os conteúdos ainda mais realistas.

Para quem acompanha o assunto das IAs generativas, o episódio envolvendo o Papa talvez seja um dos marcos da popularização das tecnologias em contexto global. Na época, o efeito nas redes digitais foi tanto que a revista Time chegou a classificar o ocorrido como “o primeiro evento verdadeiramente viral alimentado por tecnologia deepfake”, já que muitas pessoas realmente acreditaram na veracidade das imagens. Vale lembrar também que, na mesma semana, imagens feitas com IA ilustrando uma possível prisão do ex-presidente Donald Trump também chegaram a viralizar nas redes.

Porém, se as roupas de grife do Papa, depois de desmentidas, roubaram boas risadas do público diante de tal distanciamento da realidade, o caso de Trump veio num momento em que se discutia a real possibilidade de prisão do político de extrema-direita, jogando luz nos possíveis usos políticos que essas novas tecnologias trariam para a sociedade.

Deepfakes já são realidade nas eleições de 2024

As deepfakes já geram receio na sociedade civil e governos sobre os seus efeitos na integridade das eleições, apesar de alguns estudos mostrarem que a ineficiência das plataformas em conter desinformação ainda seja o principal problema. Recentemente, vídeos sintéticos trouxeram de volta figuras políticas importantes, mas já falecidas, na Índia e na Indonésia, com mensagens de apoio a determinados candidatos ou partidos, em tentativas explícitas de influência nas campanhas eleitorais dos respectivos países.

“O perigo está na forma como [as deepfakes] se espalham rapidamente. Elas podem alcançar milhares de pessoas em segundos, influenciando e manipulando eleitores”, afirmou à CNN o gerente de campanha para a Ásia da organização Access Now, Golda Benjamin.

Mas não só de imagens e vídeos são feitas as deepfakes. Os áudios profundamente falsos também estão despontando como possíveis armas de influência e de desestabilização nos processos eleitorais. Nos Estados Unidos, com o início das eleições primárias dos Estados Unidos, alguns eleitores do estado de New Hampshire receberam ligações com a voz do presidente Joe Biden, dizendo para elas não votarem. De acordo com especialistas ouvidos pela Wired, o áudio enviado aos cidadãos era falso, produzido com a ajuda de uma tecnologia de IA criada pela startup ElevenLabs que desenvolve áudios com base em vozes de pessoas reais. 

No Brasil, à medida que a corrida eleitoral se intensifica para o pleito municipal deste ano, casos de áudios falsos provavelmente criados com IA começam a aparecer no país. Estados como Amazonas, Sergipe e Rio Grande do Sul, de acordo com O Globo, já registraram possíveis deepfakes em áudio envolvendo prefeitos e políticos que tentam reeleição em suas respectivas regiões. 

Pesquisadores apontam um agravante das deepfakes: podem ser responsáveis por minar a confiança da população nas informações que recebem nas redes sociais. Aquela ideia de que se “tem vídeo ou foto” é real, cai por terra à medida que a veracidade de toda peça audiovisual pode ser questionada. A pesquisadora Patrícia Fonseca Fanaya já alertava, no artigo “Deepfake e a realidade sintetizada”, de 2021, para a possibilidade de as deepfakes trazerem o “colapso do real”. Exemplo disso, são os recentes questionamentos sobre o vídeo gravado pela princesa de Gales, Kate Middleton. 

Plataformas dizem apoiar a regulação da IA

As principais empresas do setor de IA levantam, desde o ano passado, o discurso de apoio às iniciativas de regulação das tecnologias. Em paralelo, as plataformas digitais de redes sociais – algumas delas desenvolvendo suas próprias funcionalidades de IA – também aparentam entender que as deepfakes podem trazer problemas para a sociedade (e para seus negócios).

20 empresas assinaram um acordo, no mês passado, para tentar conter conteúdos sintéticos, como as deepfakes, em seus respectivos ambientes digitais. Uma das principais cartas na manga das corporações é o desenvolvimento de marcas d’água, mecanismos que inserem no código do conteúdo marcadores que indicam que aquela peça foi gerada por IA – embora pesquisadores apontem limitações nessa estratégia. Além disso, redes como YouTube e Meta também já anunciaram medidas específicas para tentar mitigar os impactos negativos dos conteúdos do tipo. 

Ações governamentais também já despontam no cenário global. Enquanto uma campanha com mais de 1.200 assinaturas de especialistas na área pedem que os governos regulem os usos das deepfakes, países como Estados Unidos já buscam criar regras que impeçam a criação de imagens falsas com os rostos e vozes de cidadãos sem autorização. A China já possui uma regulação para isso desde janeiro de 2023. 

A União Europeia, com sua novíssima Lei de IA (o AI Act, em inglês), trata do assunto ao obrigar que os criadores identifiquem quando um conteúdo foi criado com IA. No Brasil, o Tribunal Superior Eleitoral (TSE) proibiu o uso de deepfakes durante a campanha eleitoral deste ano e obrigou o uso de rótulos para indicar conteúdos que foram gerados pelos sistemas automatizados.

É importante frisar que os problemas não surgem da tecnologia em si, mas dos fins maliciosos dados a ela. Boas práticas são vistas, por exemplo, no projeto Nordeste Imaginário, que utiliza as IAs generativas para construção de imagens artísticas sobre os símbolos do imaginário do nordeste brasileiro. 

No entanto, fica cada vez mais evidente que conter os usos perigosos das deepfakes é necessário e requer uma ação coletiva que envolve não só as plataformas, mas também governos, sociedade civil e os próprios cidadãos. Como afirmou o próprio Papa Francisco, na sua mensagem para o 58° Dia Mundial das Comunicações Sociais: “A simulação, que está na base destes programas, pode ser útil em alguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade”.