Por: Gustavo Souza

Um dos meus passatempos favoritos tem sido ver artistas que trabalham com efeitos especiais em produções audiovisuais reagirem aos resultados de outros trabalhadores da indústria de cinema. O canal Corridor Crew produz alguns vídeos muito bons. Em um deles, a equipe resolveu ligar para as próprias mães e estimulá-las a identificar se um conteúdo seria sintético. 

O vídeo tem menos de um ano e escancara como, do ponto de vista técnico, tem se tornado progressivamente mais difícil reconhecer conteúdos sintéticos. Em 2024, havia a noção de que as ferramentas não seriam capazes de gerar vídeos longos, acima de 5 segundos. Por algum tempo, as ferramentas tinham dificuldade em produzir mãos e pés com a quantidade certa de dedos. Alguns modelos ainda apresentam limitações com a produção de sorrisos, dentes e gengivas. Detalhes como letreiros ao fundo, continuidade de personagens e sobras consistentes no ambiente ainda podem ser perceptíveis. 

Haverá quem argumente pela disponibilização de ferramentas de verificação online, em que vídeos possam ser enviados e analisados. Neste contexto, quero apenas compartilhar a experiência que tenho tido com ferramentas que pretensiosamente serviriam para reconhecer textos criados por Inteligência Artificial Generativa (IAGen). 

É comum que essas ferramentas analisem textos anteriores à existência dos chatbots e apontem que os textos são sintéticos. Adicionalmente, como indicado na linha do tempo da Desvelar e detalhado numa análise sobre educação, estudantes negros são falsamente acusados com maior frequência de terem utilizado inteligência artificial em suas tarefas.

Será que estes instrumentos de verificação, que funcionam precariamente com textos, vão performar melhor com vídeos?

É arriscado contar com ferramentas que analisem os conteúdos e apontem um veredito. É ainda injusto esperar que as pessoas sejam capazes de identificar estes conteúdos sozinhas. Afinal, em que momento, uma trabalhadora com filhos poderá ser educada sobre todas essas atualizações? Além de todas as demandas diárias que já temos hoje, será que é justo imputar mais essa responsabilidade? 

Como destacado por Julia Caldeira, iniciativas como a Semana Brasileira de Educação Midiática obviamente deve ser uma prioridade e projetos similares precisam ir além de crianças e adolescentes na escola. Ao mesmo tempo, a ideia de educar as pessoas para reconhecer elementos visuais visíveis em conteúdos sintéticos para reconhecer o uso de inteligência artificial tem se tornado mais infrutífera. Em muitos momentos, apenas pessoas muito técnicas são capazes de olhar um conteúdo e perceber sua natureza sintética. Essa lógica repete a noção de responsabilidade individual, já denunciada anteriormente, e desvia o foco do que realmente é necessário: uma regulação eficaz, que limite a difusão dessas ferramentas e responsabilize quem se beneficie da desordem informacional.

Ainda vale falar sobre fake news?

É fundamental que possamos falar do direito à comunicação em termos de desordem informacional, que inclui a informação incorreta, a má informação e a desinformação. Essa abordagem pode nos permitir entender que às vezes as pessoas simplesmente não se importam o suficiente e são capazes de se entreter até com a vil erotização da brutalidade colonial sem pensar duas vezes sobre a legitimidade do conteúdo. Pode parecer uma estrutura trivial, mas pesquisadores construíram essa abordagem através de uma publicação da Unesco para ter uma análise mais completa sobre como a dieta informacional das populações tem afetado o debate público. 

Nesta publicação, o meu artigo favorito foi escrito pela britânica Claire Wardle e pelo iraniano Hossein Derakhshan (.p 46), trazendo exemplos concretos desse fenômeno. Gosto particularmente da ideia de “má-informação” porque traz uma ambiguidade que precisa ser aprofundada para cristalizar o que, de fato, significa. 

Para entendermos melhor esse desafio, imaginem que alguém tem acesso às mensagens de um dos candidatos favoritos à presidência da república e descobre que se trata de um homem que se relaciona com outros homens. Essa informação é privada e, com raras exceções, relevante ao público – no entanto, seria capaz de implodir a candidatura da maioria dos candidatos. A pessoa, sabendo do impacto da informação, vaza e impulsiona conteúdos com discursos pejorativos sobre o político, atrapalhando a candidatura e atacando minorias. Esse tipo de coisa não é hipotética, acontece e pode continuar acontecendo.

Além disso, é importante que possamos construir uma agenda propositiva diante da desordem informacional, por isso o Brasil tem liderado um importante debate sobre integridade da informação diante dos conteúdos sintéticos, gerados por ferramentas de inteligência artificial.

Ao falar em desordem informacional, e o impacto de conteúdos sintéticos sobre a integridade da informação no contexto das eleições, nós podemos vislumbrar alguns potenciais riscos, considerando o que experimentamos nas eleições de 2024. Nesse momento, eu destacaria o uso de ferramentas de inteligência artificial para produzir conteúdo sexual não consensual contra mulheres candidatas. 

Como destacado por pesquisadoras como Ana Camelo e Tainá Junquilho, houve candidatas à prefeitura e à câmara municipal que sofrerem durante as eleições com a produção nudes não consensuais. O Observatório IA nas Eleições também identificou como uma deepfake da Erika Hilton, uma das deputadas federais que atualmente mais respeito, foi utilizada para reproduzir discurso transfóbico.

As doutorandas Fernanda Rodrigues e Wil Guilherme fizeram um trabalho incrível de mapear como o buscador Google e as lojas de aplicativo oferecem uma ampla curadoria de ferramentas para produzir deepnudes, que impactam majoritariamente mulheres no Brasil. Essas ferramentas certamente terão um impacto sobre mulheres candidatas. 

Nesse caso, há dois danos que aponto. Primeiramente, a difusão de conteúdos sexuais não consensuais contra candidatas pode comprometer a saúde mental delas durante a campanha eleitoral, que é um momento bastante hostil com tantas manifestações de violência de gênero. 

Além disso, há um dano contra a reputação das candidatas, porque a misoginia opera na política brasileira de maneira bastante violenta. Para nossa sorte, em abril de 2026 a Advocacia Geral da União notificou o buscador Google para que esses resultados com ferramentas de violência sejam desindexados das páginas. A expectativa é que um buscador tão importante não seja mais um facilitador.

As empresas e seus modelos de negócios

As empresas têm um controle bastante impressionante sobre as suas plataformas. Embora não seja notável esse controle sobre conteúdos altamente nocivos, como publicidade predatória, conteúdo de abuso sexual infatil e desinformação eleitoral, já sabemos que as plataformas conseguem controlar o que circula quando há incentivos econômicos. É o que acontece no caso da pirataria. A partir do momento que grandes empresas como a Disney passaram a processar e ganhar ações contra Google e Meta, os controles passaram a funcionar de maneira exemplar. 

Em 2024 a Meta lucrou cerca de R$80 bilhões com anúncios de golpes e produtos proibidos. O quanto a desinformação eleitoral gera lucro? Então, quando falamos em regulação, estamos falando sobre os estímulos econômicos desses modelos de negócio que são predatórios contra as vidas e também contra nosso sistema democrático. 

As empresas têm estimulado a difusão de ferramentas e plataformas que produzem conteúdos sintéticos. O app Sora, que funcionou durante alguns meses, foi um grande exercício de experimentação da OpenAI. A adoção dessas ferramentas e a produção desses conteúdos têm sido estimuladas. Por fim, é fundamental que possamos compreender que as limitações frequentemente não são de natureza técnica, mas de vontade política.