Este texto foi publicado originalmente em inglês pelo Reuters Institute e pode ser lido aqui:

Taylor Swift é um produto impulsionado pelo Pentágono? O governador do Texas, Greg Abbott, disse que Joe Biden precisa aprender com Vladimir Putin para trabalhar pelo interesse dos Estados Unidos? Donald Trump disse que os ataques de 11 de setembro foram um trabalho interno do governo dos EUA? Os militares dos EUA chegaram ao Equador para “matar terroristas”?

Se você navegar pelo TikTok, X e Facebook, em espanhol, poderá ter visto algumas dessas mentiras que visam retratar negativamente democratas ou republicanos, dependendo das notícias falsas que você encontrar.

Os eleitores dos EUA irão às urnas em 5 de novembro, na primeira eleição presidencial desde o surgimento da IA ​​generativa. O público pode ser exposto a áudio, imagens e vídeos criados com Midjourney, Dall-E, ChatGPT e outras ferramentas. Mas irá certamente encontrar formas mais tradicionais de desinformação, que tendem a basear-se em informações verdadeiras que são distorcidas, descontextualizadas ou retrabalhadas por ativistas com o objetivo de reforçar narrativas partidárias, tal como mostram as histórias acima.

Ao longo das últimas décadas, os latinos dos EUA têm sido alvo deste tipo de campanhas de desinformação. Com cerca de 36,2 milhões de latinos elegíveis para votar em 2024, contra 32,3 milhões em 2020, eles constituem o maior grupo minoritário do país com poder de mudar o destino das eleições porque muitos vivem em estados decisivos como a Flórida, o Arizona. , Nevada e Geórgia.

Para compreender as narrativas que estão sendo divulgadas aos falantes de espanhol nos EUA, falei com três especialistas que estão acompanhando o contexto e verificando fatos para o público de língua espanhola.

Como os latinos viram alvo

Tamoa Calzadilla é editora-chefe do Factchequado, um meio digital de verificação de fatos com foco na desinformação em espanhol nos Estados Unidos. Ela enfatiza que os latinos dos EUA não são um grupo eleitoral único e explica que diferentes narrativas têm como alvo comunidades diferentes, dependendo de onde você vem.

“Moro aqui numa comunidade em Miami com muitos venezuelanos e muitos cubanos que têm medo das ditaduras e do socialismo. Alguns grupos conspiratórios sabem disso e usam isso para assustar as pessoas”, diz Tamoa Calzadilla, editora-chefe do Factchequado.

Um bom exemplo é um anúncio de campanha no YouTube que a campanha de Trump criou em 2020, alegando falsamente que o governo venezuelano apoiava Joe Biden. De acordo com o veículo sem fins lucrativos ProPublica, o vídeo foi assistido mais de 100 mil vezes na Flórida nos nove dias que antecederam as eleições presidenciais de 2020. O presidente venezuelano Nicolás Maduro não apoiou nenhum dos candidatos. Mas alguns eleitores podem ter acreditado no que viram.

Outras narrativas que atacam as comunidades latinas têm a ver com a inflação (focada em argentinos e venezuelanos), aborto e direitos reprodutivos (a maioria dos latino-americanos são católicos) e a sombra da fraude eleitoral ou de eleições fraudulentas (algo que aconteceu no passado em Honduras, Nicarágua, Equador e muitos outros países).

“Este tipo de desinformação tem como alvo a comunidade latina que não fala inglês”, diz Calzadilla. “Entendemos que os falantes de espanhol nos Estados Unidos são mais vulneráveis ​​do que outros porque não têm as mesmas fontes [que os falantes de inglês] para se informarem.”

Embora muitos jovens latinos consumam notícias em inglês, mais de 15 milhões de lares norte-americanos falam espanhol e pelo menos três milhões desses lares “falam inglês de forma limitada”, de acordo com o Inquérito à Comunidade Americana do Census Bureau. Isto significa que uma parcela significativa da população latina nos EUA consome conteúdo em espanhol.

Sam Woolley, diretor do laboratório de pesquisa de propaganda do Center for Media Engagement da Universidade do Texas, também viu essas narrativas se adaptarem a populações específicas. O Centro, que trabalhou com múltiplas e diversas comunidades latinas nos EUA, analisa como este segmento da população está exposto a conteúdos manipuladores.

“Uma coisa importante para se compreender é que muitas das campanhas que vemos são microdirecionadas para subseções específicas da população latina em geografias específicas e falam sobre questões que são especificamente relevantes para essas comunidades”, explica Sam Woolley, diretor do Center for Media Engagement da Universidade do Texas.

Algumas narrativas, no entanto, transcendem as subcomunidades para atingir o eleitorado mais amplo de língua espanhola. Segundo Calzadilla, uma das fake news mais destacadas é a suposta fraude eleitoral em 2020 e a chamada invasão de migrantes ilegais. Ronny Rojas, que lidera a Tverifica, a iniciativa de verificação de fatos da Telemundo, concorda e diz que tem visto frequentemente mensagens de imigração, incluindo algumas que usam dados falsos ou enganosos para estabelecer uma ligação entre o aumento da imigração e a criminalidade. Embora imigrantes ou filhos de imigrantes, muitos deles opõem-se ao que consideram ser o ataque violento da imigração ilegal proveniente da fronteira sul. “Há muita rejeição de pelo menos uma parte da comunidade latina em relação a este tipo de migração”, explica ele. “Estamos vendo isso agora porque a questão da migração se tornou um ponto central nesta campanha.”

Ele especula que estas narrativas não são criadas apenas para persuadir os eleitores, mas para criar confusão entre eles. “Ao gerar mais confusão, aumentam as discussões sobre imigração”, diz Rojas. “As narrativas mais fortes nos últimos anos são de que os migrantes exploram o sistema de benefícios, o que não é o caso.”

Quem espalha essas falsas narrativas?

Enquanto as primárias republicanas começavam a esquentar em 2023, a campanha de Ron DeSantis compartilhou um vídeo criticando Trump por não demitir Anthony Fauci de seu papel na força-tarefa da Covid-19. O vídeo incluía imagens falsas geradas por IA de Trump abraçando e beijando Fauci. Embora este exemplo e o exemplo acima, que liga Maduro a Biden, venham diretamente do campo republicano, podemos dizer que os republicanos são mais propensos a espalhar desinformação aos latinos do que os democratas? Não necessariamente, mas eles se manifestam de maneiras diferentes, diz Caldazilla.

“Alguns meios de comunicação conservadores e estações de rádio em Miami espalham teorias da conspiração como a teoria da grande substituição, que diz que há uma conspiração para levar os imigrantes a votar e a ‘grande mentira’ [de que Trump ganhou as eleições de 2020]”, diz ela. “[Os democratas] exageram o sucesso da sua administração, mas não estamos vendo muito uso da inteligência artificial para enganar as pessoas sobre uma teoria da conspiração específica.” Ela diz que os democratas são mais propensos a omitir informações que os fazem parecer “mal na fita” ou a inflar números que os fazem parecer muito bons, enquanto os republicanos são mais propensos a fazer referência a teorias da conspiração.

Woolley concorda que os dois lados usam as redes sociais para tentar manipular a opinião pública. Os democratas, segundo ele, utilizam grupos coordenados de influenciadores políticos enquanto os republicanos, embora também empreguem campanhas coordenadas de influência, estão mais dispostos a utilizar bots e desinformação para influenciar as pessoas.

Embora a origem de algumas dessas mentiras seja fácil de rastrear, pois vêm dos próprios candidatos, na maioria das vezes não é tão simples. Woolley diz que as campanhas frequentemente envolvem-se no que ele chama de “lavagem de identidade”, com empresas de marketing obscuras, muitas vezes, criadas propositadamente para trabalhar apenas durante uma eleição, num estado, para uma campanha específica.

“É importante que as pessoas compreendam que muitas vezes são intermediários e grupos de consultoria que fazem este trabalho”, explica Woolley. “Os Estados Unidos ainda têm várias lacunas que permitem que as campanhas contratem empreiteiros, mas os empreiteiros podem contratar subempreiteiros, que podem não constam na lista de prestadores de serviço da campanha política”.

O que há de novo na era da IA?

Woolley e seus colegas do Center for Media Engagement acompanham o que chamam de propaganda computacional (bots, algoritmos e outras formas de automação) desde 2012. Embora as campanhas de desinformação conduzidas por bots em 2016 fossem rudimentares e repetitivas, eles ainda conseguiram manipular algoritmos e espalhar conteúdo falso e prejudicial durante a campanha.

“O que a IA generativa faz é colocar propaganda computacional com esteróides”, diz Woolley. “Com a IA generativa, as campanhas não são apenas ampliadas. Eles também são muito mais persuasivos e com muito mais nuances.”

O que Woolley quer dizer com isso? Como cientista social que há anos estuda a manipulação computacional na esfera política, ele muitas vezes tem dificuldade em identificar imagens que foram manipuladas pela IA. “Se os especialistas não conseguem distinguir entre conteúdo criado por IA, sejam imagens, textos, vídeos e conteúdo não genérico, então que esperança têm os eleitores comuns?” .

Uma das iniciativas de fact-checking da Tverifica da Telemundo é um canal no WhatsApp onde podem se comunicar diretamente com o seu público. Este serviço também permite que os usuários enviem ideias para histórias da equipe, imagens e documentos que desejam que eles verifiquem.

Rojas diz que a maior parte do conteúdo circulando são imagens geradas por IA, um problema que não existia em ciclos eleitorais anteriores. “Você vê todos os tipos de coisas”, diz ele. “Há imagens de políticos que você vê em circunstâncias ou em situações que não ocorreram, mas eu não me limitaria apenas à política. Na verdade, imagens de todos os tipos estão circulando massivamente”.

Um exemplo que Rojas dá são imagens de uma espécie de gato recém-descoberto com um padrão de pelo vibrante. A imagem foi compartilhada pelo menos centenas de vezes no Facebook e vista milhares de vezes no TikTok. Embora este gato não exista e suas imagens tenham sido geradas através de IA, milhares de pessoas compartilharam e comentaram acreditando que ele era real.

“Você pode dizer, ‘bom, esse é um caso que não faz mal a ninguém’, mas na realidade, se você analisar, o que se gera é uma falsa crença na existência de uma raça de gato que é falsa e se você começar a juntar todas essas publicações falsas, essas imagens que estão chegando, que as pessoas estão vendo, de repente, você percebe que uma parte importante da informação que as pessoas consomem é falsa, é inexistente. Então, no final, isso gera uma falsa base de conhecimento ,” diz Ronny Rojas, da Tverifica.

As imagens geradas por IA não são as únicas que circulam na campanha. Pouco antes das primárias de New Hampshire, os residentes do estado recebiam chamadas automáticas que usavam IA para imitar a voz de Biden e desencorajar as pessoas de votar. Calzadilla diz que estão vendo vídeos no Facebook de um falso Biden falando espanhol e promovendo uma falsa ordem executiva que daria seguro gratuito para pessoas que ganham menos de US$ 50 mil.

“Estamos preocupados com isso porque agora estamos enfrentando o primeiro processo eleitoral em meio ao boom da inteligência artificial generativa e comecei a ver como as campanhas eleitorais estão usando a IA para enganar as pessoas sem qualquer transparência sobre a tecnologia que utilizam”, diz Tamoa Calzadilla

Em meados de fevereiro, várias empresas de tecnologia, incluindo OpenAI, Meta, Google, TikTok, Microsoft e Amazon, assinaram um compromisso prometendo que combateriam a criação e a propagação de conteúdo gerado por IA de interferir nas eleições em todo o mundo. Mas o seu compromisso carece de detalhes sobre como irão atingir este objetivo.

O que esperar da eleição

Com o ciclo eleitoral de 2024 já em andamento, as organizações de comunicação social estão se preparando para o que está por vir.

A Telemundo vai contratar mais dois verificadores de fatos e vai fazer parcerias com outras organizações de mídia. Também fizeram uma parceria com o grupo de educação midiática MediaWise para produzir uma série de vídeos educativos com os âncoras de notícias da Telemundo para ajudar as pessoas a identificar informações falsas.

“Fizemos uma série de vídeos e um curso que as pessoas poderão seguir online em seu próprio ritmo para se protegerem de notícias falsas online”, explica Rojas. Eles esperam produzir vídeos semelhantes para outras plataformas como o TikTok, para que possam alcançar outros tipos de público.

A Factchequeado está construindo parcerias com organizações de mídia em todo o país, que incluem um hub de jornais, estações locais de TV e rádio e meios de comunicação digitais. Essas organizações não são apenas veículos de língua espanhola, mas também veículos de língua inglesa voltados para a comunidade hispânica do país. Isto permite-lhes espalhar a checagem de fatos por todos os cantos dos EUA. Essas organizações de notícias, incluindo Dallas Morning News, El Nuevo Georgia News e Qué Hay De Nuevo New Hampshire, podem publicar tudo o que produzem gratuitamente.

“Começamos em abril de 2022, com sete aliados em diferentes cidades e neste momento contamos com mais de 60 meios de comunicação”, afirma Calzadilla. Factchequado, uma ideia nascida de uma colaboração entre o Maldita.es da Espanha e o Chequeado da Argentina, consegue financiar sua equipe de 14 pessoas por meio de uma variedade de doações de organizações como a Open Society Foundation e a Google News Initiative.

Embora o trabalho destas organizações seja necessário quando se trata de proteger as comunidades latinas do ataque violento da desinformação, há um limite para o que pode ser feito sem a contribuição das plataformas onde estas falsidades se espalham.

“Muitos estudos mostram que as plataformas de redes sociais, pelo menos aqui nos EUA, não fazem o mesmo trabalho minucioso de limpeza da desinformação em espanhol como fazem em inglês”, diz Rojas. “Isso torna os latinos especialmente vulneráveis ​​à desinformação.”

Por exemplo, um estudo realizado pela Avaaz mostrou que 70% da desinformação sobre a Covid-19 em inglês acabou sinalizada com rótulos de advertência no Facebook. Por outro lado, apenas 30% da desinformação sobre a Covid-19 em espanhol foi sinalizada. No seu depoimento perante o Congresso, a delatora do Facebook, Frances Haugen, disse que a empresa gasta 87% do seu orçamento no combate à desinformação sobre conteúdos em inglês, apesar de apenas 9% dos seus usuários falarem inglês.

De acordo com a empresa de pesquisas Equis Research, 47% dos eleitores latinos “frequentemente” usam o YouTube como fonte de notícias em uma semana normal. O WhatsApp (e o Facebook em menor medida) também constituem uma fonte de informação.

A Lei dos Serviços Digitais da UE exige que as plataformas sejam transparentes na sua moderação de conteúdos, incluindo a divulgação dos recursos humanos atribuídos à moderação de conteúdos, categorizados de acordo com cada uma das línguas oficiais da UE. Os últimos relatórios revelam avanços positivos do Meta na Europa, com 163 moderadores para espanhol contra 109 para inglês, de acordo com os números de 2023 da própria empresa. A Meta informou que para idiomas como o espanhol, que são amplamente falados fora da UE, eles têm revisores de conteúdo adicionais, mas esses números não estão disponíveis publicamente. O YouTube, no entanto, tem mais de 15.000 moderadores para seu conteúdo em inglês, contra 507 para o espanhol, de acordo com os números de 2023 da própria empresa.

Embora muitas dessas informações falsas tenham origem e se espalhem através de meios de comunicação como o Facebook e o X, tanto Calzadilla como Rojas afirmam que as plataformas mais utilizadas pelos falantes de espanhol são o YouTube e o WhatsApp, onde as publicações que já são virais são amplificadas ainda mais.

“Em serviços de mensagens como o WhatsApp é muito difícil verificar informações falsas que circulam”, diz Rojas. “O WhatsApp é superimportante na América Latina, o que faz com que a informação até vá de um país para outro: a gente leva das nossas mães para os Estados Unidos e volta para a Colômbia ou Costa Rica, por exemplo. isso nos torna latinos muito mais vulneráveis.”

Embora os verificadores de fatos tenham desmascarado a conspiração de que Taylor Swift é uma operação psicológica para os democratas, Calzadilla diz que imagens da cantora e de outras celebridades vestindo camisetas contra Trump rapidamente começaram a aparecer. “Suspeitamos que alguns foram criados por inteligência artificial”, diz ela.

Calzadilla e seus colegas primeiro tentaram encontrar as imagens originais por meio de uma pesquisa reversa de imagens, que rapidamente revelou que um ator simplesmente fez um photoshop na camiseta da celebridade. Para as duas celebridades cujas fotos originais não foram encontradas, Barack Obama e Tom Hanks, a equipe analisou discrepâncias e irregularidades faciais que revelaram que as fotos foram de fato geradas artificialmente. A essa altura, as imagens divulgadas de forma independente já foram vistas milhares de vezes no X e no TikTok.