Uma semana após o seu lançamento, o Symphony Avatar, ferramenta do TiKTok que cria avatares sintéticos, está produzindo diversos vídeos sem marcas d’água e que estão passando abaixo do radar da moderação da rede, apontou nesta semana o jornalista Jon Sarlin da CNN. Vídeos produzidos com a nova funcionalidade traziam, por exemplo, avatares declamando trechos do livro “Minha Luta”, escrito por Adolf Hitler, e recomendando que as pessoas ingerissem produtos de limpeza.

“Eu fiquei surpreso ao descobrir que o TikTok não está colocando restrições no que os avatares podem dizer”, afirmou Sarlin. “Os termos de uso do TikTok proíbem o uso das ferramentas de IA para conteúdos prejudiciais, ofensivos ou fraudulentos; mas nada realmente nos impede de criá-los.”

Em resposta ao veículo, o TikTok afirmou que houve um “erro técnico” que permitiu pequenos números de usuários a criarem esses conteúdos. De acordo com a empresa, o erro foi solucionado. 

Com informações da CNN.