Em meio à guerra, um vídeo do presidente ucraniano Volodymyr Zelensky se rendendo à Rússia circulou em todo o mundo. Mas o que seria um ponto final submisso ao conflito armado era, na verdade, uma grande manipulação do produto audiovisual, algo conhecido como deepfake.

À medida que novas tecnologias são criadas e aprimoradas, a desinformação também vai se aperfeiçoando. Como coloca Alex Gelfert, um pesquisador da área, “a falsificação de notícias já existe há muito tempo, e cada avanço tecnológico, do telégrafo no século XIX aos algoritmos contemporâneos de mídia social, desencadeou novas possibilidades de engano e fabricação”. Essas novas possibilidades trazem um fenômeno que ultrapassa a “simples” manipulação de informações e se baseia na manipulação de imagens e áudios, que são as deepfakes.

 

O que é deepfake?

“O termo deepfake refere-se às mídias sintéticas nas quais imagens ou  sons  capturados  de  determinadas  pessoas  são  substituídos  pelos  de  outras  por  meio  de  técnicas  avançadas  de  aprendizagem  de  máquina  e  Inteligência Artificial (IA), com a finalidade de manipular conteúdos visuais e/ou sonoros, com enorme potencial de falseamento da realidade”, conceitua a doutora em Comunicação e Semiótica, Patrícia Fanaya. 

A nomenclatura em si é uma junção dos termos deep learning (aprendizado  profundo) e fake (falso). O pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD), Rodrigo Carreiro, destaca que esse é um fenômeno típico da cultura digital que utiliza tecnologias específicas, que se tornam cada vez mais acessíveis às pessoas. 

A tecnologia em que se pode vislumbrar a primeira deepfake surgiu em 2017 com um usuário anônimo da plataforma Reddit, um site de fóruns. Na ocasião, o usuário criou uma comunidade chamada de r/deepfakes em que circularam os primeiros vídeos de troca de rosto.

“Ao invés de usar edição manual como antes, o usuário através da ferramenta (que recebeu o nome de Deep Fake) precisa apenas de uma fonte para reconhecer o modelo do rosto da  “vítima”,  mapear  a  estrutura  da  cabeça-destino  e  fazer  a  sobreposição. O software é capaz de ajustar a movimentação do vídeo original ao novo rosto e isso inclui expressões faciais e movimentos labiais” – Via tecnoblog

Essas manipulações são realizadas a partir de softwares de inteligência artificial. Em 2018, o Buzzfeed fez um vídeo com essa tecnologia para apresentar a deepfake. Na época, o mecanismo utilizado foi um software chamado FakeApp, que foi popularizado em fóruns como o próprio Reddit e também no Discord, um aplicativo de áudio.

Tais alterações, explica Rodrigo Carreiro, são realizadas a partir do aprendizado do algoritmo por meio de um conteúdo antigo: “Você pode ter o rosto da pessoa manipulado por meio de vários vídeos anteriores daquela pessoa e você consegue inserir abertura de boca, o olhar, e você manipula aquela imagem ou você pode criar do zero, que é muito mais difícil e geralmente é mais estático, mas ainda assim é possível”.

No início a tecnologia foi muito usada em vídeos de cunho sexual, em que há a troca de rostos de atores e atrizes pornográficas por pessoas comuns. De acordo com a professora da Universidade da Virgínia, Danielle Citron, essa era uma prática mais comum no início de 2018. No entanto, a manipulação foi se expandindo para outras áreas, como já havia alertado Danielle Citron. 

 

Deepfakes pelo mundo

Além de vídeos, as deepfakes também podem ser apresentadas no formato de áudio, em que a voz é manipulada para determinado fim a partir da clonagem do áudio ou a geração dele. A premissa é a mesma: ensinar, por meio da inteligência artificial, a máquina reproduzir o timbre da voz, sotaque e outras características, como nesse caso em que foi recriada a voz da ex-presidente Dilma Rousseff.

A tecnologia que envolve a deepfake – e que vem evoluindo a cada momento – é, portanto, vista com preocupação pela sua capacidade de enganar, principalmente em espaços que vem crescendo, como o metaverso. Apesar dessas possibilidades e da desinformação que é criada a partir disso – como o vídeo do ex-presidente norte-americano -, muito conteúdo criado atualmente tem o intuito de entreter.

O jornalista brasileiro Bruno Sartori, por exemplo, possui um canal com mais de 300 mil inscritos em que publica deepfakes com personalidades públicas. Neste vídeo, o produtor de conteúdo inseriu o rosto do presidente Jair Bolsonaro no Tiririca, já colocou o ex-presidente Lula como a cantora Mariah Carey. Na Coreia do Sul a tecnologia foi utilizada para recriar a voz de um cantor morto há 25 anos.

 

Deepfakes e eleições

“Eu estive observando muito o movimento que ocorreu nos Estados Unidos nessa última eleição, o medo de toda a comunidade era que usassem realmente para criar conteúdo falso a fim de enganar as pessoas e isso não aconteceu. O que acontece nos EUA reflete muito aqui, só que a gente tem o fator Brasil, não podemos esquecer disso. Podemos ter sim pessoas utilizando essa tecnologia, mas eu não acredito que isso vá acontecer porque o uso da tecnologia ainda necessita de um hardware muito poderoso para processar um vídeo com uma qualidade muito boa”, destacou Bruno Sartori, especialista em deepfake, em entrevista ao UOL. 

O pesquisador Rodrigo Carreiro também acredita que as deepfakes podem aparecer nesse processo eleitoral, mas não com a intensidade esperada. “Acredito que pode ter um investimento na criação de deepfakes, mas devem ser coisas mais pontuais, não acredito na produção em larga escala como acontece com as fake news tradicionais”, destaca.

“Esse tipo de material claramente tem uma intenção de enganar, mas também a intenção de provocar um dano a alguém e também ajuda a intimidar as pessoas, grupos políticos e candidatos. No fim das contas isso tudo gera uma desconfiança nas eleições e na democracia em geral”, aponta Carreiro.

 

É possível checar uma deepfake?

As preocupações com as deepfakes geram questionamentos sobre como combatê-las. Rodrigo Carreiro destaca que já são testadas tecnologias capazes de identificar, por meio de mecanismos de reversão, vídeos adulterados. No entanto, mesmo com alguns avanços, atualmente a forma mais eficaz de verificar é por meio do contexto ou detalhes nos vídeos.

O coordenador de educação da Agência Lupa, Raphael Kapa, aponta que no Brasil atualmente as mentiras mais simples são as que mais viralizam e que mais causam problemas. No entanto, as deepfakes, mesmo com um volume menor, são as mais difíceis de verificar e consomem um tempo significativo do jornalista.

A dificuldade de checar uma deepfake vem, principalmente, da falta de ferramentas. Para Kapa, o principal mecanismo de verificação neste caso é um bom repórter. “Parece bobo, parece romântico, mas um repórter que cobre um candidato durante um tempo já conhece o tom de voz, já conhece gíria, já conhece a forma de falar. Na hora de mapear ele consegue perceber se aquela pessoa está ali falando mesmo aquilo, se é o tom de voz dela, se é o traquejo dela ou se não é”.