Durante os últimos anos, a imagem dos deepfakes dominou o debate público sobre os riscos da inteligência artificial. Vídeos hiper-realistas de políticos dizendo frases que nunca pronunciaram ou imagens manipuladas de acontecimentos inexistentes passaram a simbolizar o potencial da IA para alimentar campanhas de desinformação. Mas um novo relatório do Painel Internacional sobre o Ambiente da Informação (do inglês International Panel on the Information Environment – IPIE) sugere que a maior ameaça pode estar em outro lugar: nos textos produzidos por modelos de linguagem. 

A análise, que reúne evidências de experimentos científicos sobre a percepção da desinformação gerada por IA, mostra que conteúdos textuais produzidos por sistemas como os grandes modelos de linguagem (LLMs) vêm sendo percebidos como cada vez mais críveis pelo público. Em alguns experimentos, esses textos chegaram a ser considerados mais confiáveis do que informações verificadas. 

Ao mesmo tempo, o estudo identifica uma tendência oposta em relação aos deepfakes. Em vez de se tornarem progressivamente mais convincentes, conteúdos visuais manipulados passaram a despertar maior desconfiança entre os participantes dos estudos mais recentes, sugerindo que a crescente conscientização pública sobre vídeos e imagens falsificadas pode estar funcionando como uma espécie de defesa espontânea. 

O relatório é uma meta-análise, uma metodologia que reúne e compara resultados de diferentes estudos experimentais e sintetiza o que a literatura científica já sabe sobre os efeitos da desinformação produzida por IA generativa e as estratégias mais eficazes para reduzi-los.

Os autores alertam, porém, que a área ainda é recente e que muitas conclusões devem ser interpretadas com cautela, especialmente devido ao número limitado de estudos disponíveis e à forte concentração das pesquisas em países da Europa Ocidental e da América do Norte. 

O texto virou a frente mais preocupante da desinformação por IA

Segundo os pesquisadores, as evidências apontam para um crescimento da credibilidade atribuída aos textos produzidos por IA. A meta-análise identificou uma tendência segundo a qual, à medida que os modelos de linguagem evoluem, aumenta também sua capacidade de gerar conteúdos percebidos pelos usuários como coerentes, precisos e convincentes. 

Um dos estudos de referência analisados pelo relatório, publicado em 2020 na Cambridge University Press por pesquisadores de universidades dos Estados Unidos e do Reino Unido, mostrou que, em uma comparação entre diferentes versões do GPT-2, o modelo mais robusto gerava desinformação considerada mais crível do que informações verificadas, enquanto a versão menor não produzia o mesmo efeito. 

Embora isso não estabeleça uma relação causal entre o tamanho do modelo e sua capacidade de persuasão, o resultado é compatível com a hipótese de que sistemas mais sofisticados conseguem produzir textos mais refinados e, consequentemente, mais convincentes.

Na literatura mais recente, envolvendo modelos mais avançados, como o GPT-4, os efeitos continuam aparecendo, embora nem sempre de forma uniforme. Os próprios autores ressaltam que há variações importantes entre os estudos, o que significa que a maior credibilidade da desinformação textual ainda depende do contexto em que ela é produzida e avaliada.

Deepfakes são avaliados como menos confiáveis

Em contraste, os experimentos sobre desinformação visual mostram um movimento inverso. A meta-análise identificou uma redução estatisticamente significativa na percepção de credibilidade de deepfakes ao longo do tempo. Em outras palavras, estudos mais recentes registram que vídeos e imagens gerados por IA tendem a ser avaliados como menos confiáveis do que conteúdos autênticos.

Embora o relatório não afirme que os deepfakes deixaram de representar uma ameaça, os autores sugerem que o aumento da cobertura midiática e da conscientização pública sobre esse tipo de manipulação pode estar tornando as pessoas mais cautelosas diante de imagens potencialmente falsas. Ainda assim, fazem uma ressalva importante: essa tendência pode se inverter novamente à medida que as tecnologias de geração de vídeo continuem evoluindo e produzam conteúdos ainda mais difíceis de distinguir da realidade.

Outra observação relevante é que muitos estudos sobre deepfakes indicam que fatores como confiança na fonte da informação, idade dos participantes e atenção a pistas visuais influenciam significativamente a capacidade das pessoas de reconhecer conteúdos manipulados. São fatores que ajudam a explicar por que a percepção dos deepfakes varia entre diferentes públicos.

O risco aumenta com as interações personalizadas

O relatório destaca também outro fator de preocupação: a capacidade dos chatbots de manter conversas personalizadas. Diferentemente de uma publicação estática nas redes sociais, esses sistemas conseguem adaptar respostas, responder objeções e construir interações contínuas com cada usuário.

Embora a maior parte dos experimentos analisados tenha avaliado apenas mensagens estáticas, o relatório também incorpora evidências recentes de um estudo publicado em dezembro de 2025 na revista Science, conduzido por dez pesquisadores de universidades dos Estados Unidos e do Reino Unido. A pesquisa indica que conversas conduzidas por IA podem ser cerca de 50% mais persuasivas do que a simples leitura de um texto gerado por esses sistemas. Isso faz com que os pesquisadores considerem as IAs conversacionais uma fonte imediata e escalável de desinformação. 

Os autores ressaltam que essa descoberta torna conservadoras as estimativas atuais sobre a credibilidade da desinformação produzida por IA, já que a maioria dos estudos ainda não analisou plenamente o impacto das interações em tempo real.

Defendem ainda que estratégias de governança não se limitem aos deepfakes, mas incluam salvaguardas específicas para sistemas conversacionais, que ocupam um espaço cada vez maior na forma como as pessoas buscam e consomem informação.

>> LEIA TAMBÉM TSE aplicou regras para chatbots de IA durante eleições de 2026

Prevenir e rotular como caminhos de prevenção

E quais estratégias realmente ajudam a reduzir os impactos da desinformação produzida por IA? Para responder a essa pergunta, os pesquisadores compararam diferentes medidas adotadas para diminuir a credibilidade desse tipo de conteúdo e concluiu que algumas apresentam resultados muito mais consistentes do que outras.

Entre as principais intervenções analisadas pelo relatório estão:

• Informação corretiva preventiva (prebunking): reúne as evidências mais robustas. A estratégia prepara os usuários antes da exposição à desinformação, explicando como funcionam as manipulações produzidas por IA. A meta-análise indica que esse tipo de intervenção reduz de forma consistente a credibilidade atribuída a conteúdos enganosos. 
• Rotulagem de conteúdo (labels): utiliza avisos como “Gerado por IA” ou “Conteúdo manipulado”. Embora os selos possam reduzir a credibilidade da desinformação, sua eficácia varia conforme o tipo de rótulo, a forma de apresentação e o contexto. Em alguns estudos, avisos de que o conteúdo foi “manipulado” tiveram desempenho melhor do que aqueles que apenas indicavam que ele foi “gerado por IA”. 

O que o relatório recomenda

A partir dos resultados da meta-análise, os pesquisadores apontam quatro prioridades para governos, plataformas digitais e desenvolvedores de inteligência artificial:

• Priorizar o combate a desinformação em texto: as evidências indicam que conteúdos produzidos por modelos de linguagem já representam um risco mais imediato e escalável do que deepfakes, especialmente com o avanço das IAs conversacionais.
• Investir em prebunking: ações preventivas e de alfabetização midiática voltadas à IA devem ocupar papel central nas estratégias de enfrentamento à desinformação, sobretudo em áreas como eleições, saúde pública e mudanças climáticas.
• Tratar a rotulagem com cautela: em vez de considerar selos uma solução definitiva, o relatório recomenda testar continuamente diferentes modelos para identificar quais realmente ajudam os usuários.
• Ampliar a produção de evidências: os autores defendem mais pesquisas independentes e atualizações periódicas das revisões científicas para acompanhar a rápida evolução da IA generativa.

Retrato se concentra no Norte Global 

Uma limitação importante apontada no relatório é a concentração geográfica da literatura científica disponível, baseada sobretudo em estudos experimentais realizados com participantes da Europa Ocidental, dos Estados Unidos e, em menor medida, da Coreia do Sul. Isso deixa uma lacuna significativa sobre como a desinformação produzida por IA afeta populações do Sul Global. 

Segundo os autores, essa concentração dificulta a formulação de políticas públicas capazes de responder a diferentes realidades culturais, linguísticas e informacionais. Por isso, defendem ampliar a produção de evidências em contextos hoje pouco representados, para que as estratégias de enfrentamento à desinformação sejam mais eficazes em escala global. 

LEIA TAMBÉM >> Relatório aponta desinformação como entrave à ação climática