O YouTube atualizou sua política contra cyberbullying e assédio para proibir, a partir do próximo dia 16 de janeiro, a publicação de conteúdos falsos que simulam menores de idade ou outras vítimas de crimes, como assassinato ou desaparecimento, narrando suas próprias experiências de violência. 

A atualização pode parecer bastante específica e até óbvia, mas tem o objetivo de impedir uma prática macabra que vem surgindo no mundo digital desde o ano passado: as deepfakes que recriam crianças e vítimas mortas ou desaparecidas para recontarem os crimes que sofreram. 

Um desses vídeos feitos com ajuda de Inteligência Artificial, que circulou no YouTube e no TikTok em meados de 2023, mostrava o rosto de James Bulger, uma criança britânica de apenas 2 anos que foi raptada e morta em 1993, enquanto sua mãe fazia compras. Como mostrou uma matéria do The Washington Post de agosto passado, o vídeo foi removido na plataforma chinesa, mas continuou circulando no YouTube. O TikTok proíbe o uso de imagens de crianças em deepfakes e outros conteúdos sintéticos.

De acordo com a nova política do YouTube, os conteúdos que violarem as regras serão removidos e o usuário sofrerá limitações de ações dentro da rede, como o bloqueio de envio de novos vídeos. Caso a política seja violada novamente em até 90 dias, o canal poderá sofrer penalidades como a remoção definitiva da plataforma.O uso de tecnologias de IA para reviver pessoas também está em discussão no legislativo brasileiro. O Projeto de Lei 3608/2023, do deputado Jadyel Alencar (PV-PI), busca determinar que a manipulação de imagens de indivíduos já falecidos dependerá da autorização dos herdeiros legais. O texto ainda estabelece que peças publicitárias devem informar ao consumidor quando utilizarem IA. O PL 3608 está em tramitação na Comissão de Constituição e Justiça e de Cidadania (CCJC) da Câmara dos Deputados.