Nesta sexta-feira (10), a Índia chegou à metade das eleições gerais, que se encerrarão apenas no dia 1 de junho. O processo eleitoral mais longo deste ano, dividido em sete fases, é um cenário de desinformação, discursos de ódio em anúncios pagos, além de ter se tornado um laboratório de deepfakes, muitas delas ressuscitando antigos líderes políticos em mensagens personalizadas para os eleitores. 

Na segunda-feira (6), a Comissão Eleitoral Indiana, órgão que gere o pleito no país, emitiu um comunicado exigindo que os partidos políticos removam quaisquer deepfakes de imagem ou vídeo dos seus perfis nas plataformas em até três horas após saber da existência dos conteúdos. Os partidos também foram aconselhados a identificar e alertar os indivíduos responsáveis pela criação das peças manipuladas.

A ação veio logo após a comissão ser acionada pelo Tribunal Superior de Delhi, que recebeu uma petição sobre o assunto. Até então sem regras específicas sobre o uso de IA para fins políticos, as eleições indianas estão sendo tomadas de deepfakes produzidas pelos próprios partidos e candidatos. A popularização das tecnologias nas campanhas está tornando o país um dos maiores laboratórios de IA e eleições do mundo, mostrando o que é possível fazer com essas funcionalidades durante uma corrida eleitoral.

De acordo com um levantamento realizado pela agência de checagens indiana BOOM, das 147 publicações verificadas pela organização no mês de abril, 111 (ou cerca de 75,5%) eram relacionadas às eleições. A principal estratégia desinformativa foi o uso de vídeos antigos para propagar informações descontextualizadas, visando diferentes alvos: do primeiro-ministro Narendra Modi até opositores do governo, incluindo também os mulçumanos. Mais da metade desses conteúdos (51,7%) foram publicados nas plataformas por perfis verificados.

A agência afirmou que houve aumento de casos de deepfakes entre março e abril. No mês passado, ao todo, foram verificadas 11 ocorrências, enquanto em março só houve 3 casos. A organização afirmou que também cresceu o número de conteúdos manipulados com imagens de celebridades, endossando ou criticando diferentes partidos políticos. Em uma dessas peças, o ator de Bollywood, Ranveer Singh, apareceu criticando o governo pelo aumento do desemprego e inflação. O vídeo, que teve o áudio modificado com voz sintética, viralizou nas redes.

Índia vira laboratório de deepfakes

Uma reportagem do Rest of World, por exemplo, noticiou como políticos falecidos estão sendo “ressuscitados” em vídeos feitos com IA para angariar votos e espalhar mensagens de influência política entre eleitores, principalmente os mais velhos. A estratégia também foi utilizada nas eleições da Indonésia, em fevereiro passado.

Recentemente, o candidato Vijay Vasanth criou um vídeo do seu próprio pai, o político Vasanth Kumar, figura conhecida na cidade litorânea de Cabo Camorim, morto em 2020 por complicações da Covid-19. No vídeo, Kumar afirma que, apesar de morto, sua alma permanece entre os cidadãos. “Eu posso assegurar que meu filho, Vijay, trabalhará pela melhoria de Cabo Camorim e para o progresso das suas crianças”, diz o político no vídeo sintético.

Uma outra deepfake de um político já morto já tinha ganhado o noticiário internacional em janeiro deste ano. Na época, um vídeo trouxe de volta um ícone da política indiana, M. Karunanidhi, falecido em 2018, para discursar em apoio a um governador local. “A ideia é entusiasmar os quadros políticos”, comentou Salem Dharanidharan, o porta-voz do partido Dravida Munnetra Kazhagam (DMK), que era liderado por Karunanidhi. “Isso anima eleitores mais velhos e espalha seus ideais entre os eleitores mais jovens que não o conheceram.”

Às vésperas do início das eleições, em meados de abril, o The New York Times também mostrou como funciona uma agência especializada na criação de deepfakes de políticos, localizada no estado de Rajastão. Com apenas 5 minutos de conteúdo gravado, segundo a reportagem, foi possível criar 20 novos vídeos de saudações personalizadas com o rosto de um candidato.

A personalização da mensagem parece ser um objetivo bastante comum nessas eleições. Partidos e políticos estão utilizando o ChatGPT e tecnologias de clonagem de voz para criar áudios específicos para eleitores que chegam a eles por meio de ligações telefônicas.

Meta permite anúncios com islamofobia 

Além disso, a BOOM mostrou que a Meta continua permitindo anúncios pagos com conteúdos islamofóbicos. Os conteúdos foram publicados por páginas que atacam oponentes do Partido do Povo Indiano (BJP, na sigla em hindi), que atualmente governa o país. O discurso de ódio contra a comunidade muçulmana é uma prática frequente no país, endossada pelo próprio primeiro-ministro Narendra Modi.

De acordo com a organização, os principais anunciantes no mês passado nas plataformas da bigtech foram os partidos políticos, principalmente o Partido do Povo Indiano (BJP, na sigla em hindi), que investiu mais de 109 milhões de rúpias (em torno de R$ 6,7 milhões), e o Partido do Congresso, com gastos de 65 milhões de rúpias (R$ 4 milhões). Procurada pela BOOM, a Meta não respondeu o veículo.

Os anúncios políticos problemáticos no país já eram previstos pelas organizações da sociedade civil indiana e internacional, que chegaram a testar a ineficiência das barreiras de segurança criadas pelas plataformas antes do início das eleições. Nesta semana, o Tech Transparency Project denunciou o mercado negro de vendas de perfis do Facebook que dizem estar autorizados a criarem anúncios políticos dentro da plataforma.

“O Facebook está permitindo que os usuários comprem e vendam contas do Facebook que podem veicular anúncios políticos na Índia, levantando preocupações de que possam ser usadas para interferência eleitoral naquele país”, afirmou o TTP.

A miragem de Narendra Modi 

Uma pesquisa realizada nos Estados Unidos, Reino Unido e França, divulgada esta semana, mostrou que, diferente do que afirma o primeiro-ministro indiano, Narendra Modi, a Índia não está sendo bem vista no cenário internacional. Nos últimos anos Modi vem afirmando que melhorou a posição e a reputação do país no contexto geopolítico internacional, estratégia para reforçar seu posicionamento de liderança no debate público indiano. O político é uma peça-chave da desinformação governamental na região.

O estudo, realizado pela GlobeScan e encomendada pela organização Friends of Democracy, ouviu mil pessoas nos três países, entre 29 de março a 8 de abril, sobre as suas opiniões em relação ao governo indiano e aos direitos humanos. Três entre quatro participantes expressaram preocupações sobre a possibilidade de a comunidade muçulmana perder direitos na Índia. Além disso, 89% pensam que é importante que a Índia proteja os direitos humanos se seus respectivos países estreitarem ligações políticas.

Com esses resultados, a pesquisa afirma que Modi construiu uma espécie de miragem para os cidadãos indianos por meio de censura da imprensa e desinformação nas redes sociais. “Pessoas de dentro do país relatam um direcionamento próximo das narrativas divulgadas pelos meios de comunicação com o gabinete do primeiro-ministro”, destacou o relatório, disponível em inglês.

Próximos passos da eleição indiana

A Índia está atualmente na terceira fase das eleições gerais, iniciada no dia 19 de abril. Ao todo, serão 44 dias de pleito eleitoral divididos em sete fases. Em cada uma dessas etapas, determinados estados realizam as eleições, quase um bilhão de pessoas estão aptas a votar no país. Os resultados estão previstos para o dia 4 de junho.