Em maio de 2025 houve uma trend entre alguns artistas, que consistia em criar vídeos sintéticos de suas versões como bebês dublando falas de adultos — e alguém achou isso fofo. A tendência se expandiu e consolidou a percepção pública sobre as capacidades destas ferramentas de trabalhar com rostos que representam infâncias. Com usos progressivamente mais absurdos, acompanhados de propósitos altamente questionáveis, essa tendência é mais um ponto de reflexões sobre a relação entre infância e conteúdos sintéticos, que demanda ceticismo e seriedade.
Eu ainda escuto especialistas apontando a propaganda da Volkswagen em julho de 2023 como um caso paradigmático sobre as deepfakes. De fato, esse caso permitiu algumas reflexões importantes sobre coerência histórica, legado, memória e consentimento. Casos posteriores, como o negócio milionário de Khaby Lame, trouxeram novas camadas de complexidade.
Quando escrevi sobre os desafios comunicacionais diante da inteligência artificial generativa, eu estava essencialmente preocupado com as explorações da reputação, imagem e voz através de casos como Elis Regina, Michael Schumacher e Cleber Augusto. Devo confessar que só recentemente pude perceber que ao tratar da apropriação de corpos através da inteligência artificial, há ainda outros riscos à espreita.
A infância que nunca acaba
Quem lembra do Daniel Radcliffe, com 21 anos, lutando contra a barba crescendo e interpretando o Harry Potter que teria 17, entende que muitos desses filmes acabaram porque as crianças cresceram. Há quem argumente que o uso de deepfakes, como feito “Alien: Romulus” (2024) é um uso artístico que justificaria a difusão da tecnologia. Será que poderíamos utilizar deepfakes para continuar programas, enquanto os atores crescem?
Em parte dessas produções de cinema, só depois de bastante tempo, o público tem a oportunidade de descobrir os bastidores através da voz dos atores crescidos. Finalmente cai a ficha de que ser um ator-mirim é, por definição, um trabalho infantil. Fora dos ambientes mais estruturados do cinema, onde crianças se tornam influenciadores dentro de casa, essa relação pode se tornar mais desequilibrada.
Eu apenas suspeito que no futuro vamos descobrir relatos bem mais preocupantes sobre influenciadores mirins, quando as crianças se tornarem adultas. A iniciativa do CNJ de passar a demandar uma autorização judicial para o exercício dessas atividades pode ser um marco importante de proteção das crianças e adolescentes. Parte dessas crianças tem a imagem comercialmente explorada em práticas publicitárias predatórias, injustas e enganosas nas redes sociais, que devem ser denunciadas no novo canal exclusivo da ANPD para denúncias de descumprimento do ECA Digital.
Baseado no que já conhecemos sobre a necromancia algorítmica, nos casos de Elis Regina e Maradona, se dermos um passo à frente, é razoável imaginar ainda um outro cenário. Gostaria de pensar em legística e boas práticas de técnica legislativa que antecipem danos. Suspeito que ainda conheceremos casos de infâncias em formol, com uma taxidermia algorítmica, com pessoas que serão eternamente reconhecidas como crianças sem usufruir totalmente da possibilidade de serem vistas como adultas. Será que as crianças estão devidamente protegidas contra essa formas de exploração? Com estes modelos de negócio construídos a partir da infância, precisamos entender que há outros riscos e danos já em curso.
Conteúdos sintéticos e abuso
Há casos conhecidos de produção de deepnudes contra adolescentes a partir do ambiente escolar, que foram documentados em um dos capítulos de “Enfrentando Deepfakes”. Há comunidades inteiras na Internet voltadas à produção e circulação de conteúdos de abuso sexual infantil. O Núcleo Jornalismo, que está passando por uma pausa diante dos impactos da inteligência artificial sobre jornalistas, noticiou há algumas semanas a venda de nudes de mulheres e material de abuso infantil, uma prática criminosa que inclui o uso de “bots para gerar deepfakes de nudez”.
Foi a partir dessa constatação, que colaborei junto com Nirvana Lima na construção de um painel durante o FIB16 em Belém, chamado “Combate às deepfakes contra crianças e adolescentes: respostas multissetoriais a AI CSAM”, que resultou ainda em um policy paper. Bem dizer, a tecnologia utilizada para trends aparentemente inofensivas, que vai sendo progressivamente melhorada com o uso, passou a ser utilizada para produzir material de abuso sexual infatil.
O fato noticiado é resultado de uma pesquisa, promovida pela AI Forensics, que apontou que cerca de 25 mil usuários têm espalhado e monetizado imagens íntimas não-consensuais, incluindo CSAM (Child Sexual Abuse Material – M4terial de 4bus0 S3xu4l Inf4ntil). As infraestruturas utilizadas por estes grupos da Espanha e da Itália permitem que os conteúdos sejam organizados através de pastas, com cobranças pelo acesso aos arquivos e permitindo ainda a utilização de bots que automatizam a produção de conteúdos sintéticos.
Durante o minicurso EGI, que promovemos em Belém, antes do FIB16, eu realizei uma oficina sobre estratégias de ativismo na Internet. Na última atividade, eu costumo destacar uma lista de 20 estratégias de intervenção que podem ser adotadas e a pesquisa acadêmica é uma delas. Sim, pesquisa acadêmica é uma forma de ativismo. Fatos como este, noticiados pelo Núcleo de Jornalismo, destacam o papel central da pesquisa para o jornalismo de qualidade e o ativismo informado, que contribuem para agirmos com cautela ao mergulhar em trends aparentemente despretensiosas, mas que coletam nossos dados pessoais e vulnerabilizam as infâncias à violência.