Entram em vigor nesta terça-feira, dia 10, na China, as novas regras para a regulação de deepfakes e outros conteúdos sintéticos gerados por Inteligência Artificial (IA). A medida visa restringir o uso e a alteração de imagens e de vozes de pessoas sem consentimento para a produção de atividades consideradas ilegais, como a distribuição de informações falsas e prejudiciais.

A “Regulação sobre a Administração de Síntese Profunda dos Serviços de Informação da Internet”, como é chamada, está sendo implementada pela Administração do Ciberespaço da China (CAC), o órgão regulador chinês, e é direcionada a plataformas e serviços que usam tecnologias de edição de imagem e de voz, como algoritmos de aprendizagem profunda (deep learning, em inglês) e realidade aumentada.

A partir dessa ação regulatória, os provedores de “deep fakes” terão que autenticar previamente as identidades dos usuários antes de editar suas vozes e imagens. As empresas também devem proteger os dados submetidos para evitar que informações confidenciais sejam usadas para criar mídia profundamente falsas com intenções de desinformação.

Além disso, conteúdos sintéticos, gerados a partir de voz e imagem humana, devem ser rotulados para identificação clara com o objetivo de evitar confusão pública ou identificação incorreta de informações. Dessa forma, de acordo com o órgão regulador, não é imposta uma proibição total, mas a promoção da proteção legal para garantir e facilitar o desenvolvimento da tecnologia.

A CAC justificou a medida pelas preocupações do governo chinês com o avanço da tecnologia de IA, pontuando perigos que elas apresentam para a estabilidade social quando são utilizadas por usuários mal-intencionados na busca de executar golpes ou difamar pessoas.

China à frente dos EUA e Europa

Para a jornalista Karen Hao, do Wall Street Journal, a regulação levanta preocupações em possíveis extensões de censura do governo chinês a formas diversas de discurso. Mesmo assim, o editor do projeto Stanford DigiChina, Gaham Webster, afirma que a partir desta terça a China se tornará o maior estudo de caso sobre como as leis podem funcionar na prática e afetar plataformas e provedores de IA generativa.

“Embora o sistema político da China e os objetivos de seu governo difiram significativamente de muitos outros países, eu argumento que o mundo pode aprender com a tentativa inicial e proativa da China de enfrentar os desafios que são mundiais”, escreveu Webster.

Ainda em julho de 2022, quando a regulação ainda estava em formato de proposta, os pesquisadores Emmie Hine e Luciano Floridi, ambos da Universidade de Oxford, apontaram em um artigo na revista Nature que o documento chinês estava avançando frente ao que hoje propõem a União Europeia (UE) e os Estados Unidos.

“A facilidade com que as deepfakes podem ser geradss e espalhadss é mais ameaçadora politicamente do que notícias confiáveis, que podem ser bloqueadas com mais facilidade. Essa ameaça única esclarece por que o governo chinês passou a regular a tecnologia de síntese profunda de forma mais rápida e completa do que os Estados Unidos ou a UE”, escreveram os cientistas.

Em junho do ano passado, a UE atualizou o código de conduta da Comissão Europeia sobre desinformação, endurecendo ações contra plataformas de redes sociais que permitem a circulação de deepfakes.Já nos Estados Unidos, estados como Nova Jersey e Illinois possuem legislações locais que tratam da proibição de produção e compartilhamento de mídias audiovisuais falsas, mas ainda não há regulamentação sobre o assunto em âmbito federal.