O órgão regulador da Internet da China propôs, no último sábado (14), novas regras para que as plataformas e provedores de serviços online rotulem todos os conteúdos gerados por Inteligência Artificial generativa que circulem em seus ambientes. O projeto ainda é um rascunho e está atualmente em fase de análise pública.

Chamada de “Medidas para Rotulagem de Conteúdo Gerado por Inteligência Artificial”, a proposta da Administração do Ciberespaço da China exige que as plataformas identifiquem os conteúdos sintéticos com rótulos visíveis e metadados incorporados aos arquivos. Os rótulos também deverão aparecer em diversas partes do texto, imagem, vídeo ou áudio criado com IA.

Os arquivos de áudio, por exemplo, deverão ter avisos de voz alertando aos ouvintes que aquele é um conteúdo gerado por IA no início e no fim da gravação – em alguns casos, também no meio do arquivo. Já os softwares de vídeo deverão adicionar os avisos no final e no fim do clipe.

As plataformas e prestadores de serviços serão obrigadas a analisar os metadados dos conteúdos. Se não houver informações incorporadas ao arquivo, nem a sinalização dos usuários, as empresas deverão analisar a peça e identificá-la como IA quando houver suspeita do uso da tecnologia.

A proposta também prevê deveres para os usuários, que serão obrigados a rotular o conteúdo gerado por IA quando forem publicar nas plataformas. Em casos de pedidos para gerar o conteúdo sem o rótulo, um registro de suas atividades deverá ser feito pelo provedor do serviço e retido por seis meses.

Além disso, o projeto afirma que nenhuma organização ou indivíduo poderá excluir, adulterar, forjar ou ocultar maliciosamente os identificadores, nem oferecer ferramentas ou serviços para que terceiros possam fazer isso. Em relação às violações das regras, o texto afirma apenas que o indivíduo que não rotule os conteúdos e que cause “graves consequências”, será “punido pelas autoridades competentes relevantes” de acordo com a disposição legal nacional.

“É praticamente o negócio de sempre: a China quer que seus gigantes da tecnologia policiem o que entra online e vinculem o conteúdo gerado pelo usuário a um indivíduo identificável”, afirmou o editor do The Register, Simon Sherwood.

A China é um ator importante na corrida global da IA. O país lidera a adoção de IAs generativas, de acordo com uma pesquisa divulgada em julho deste ano pela SAS e  Coleman Parkes Research. Conforme mostraram os resultados, 83% dos participantes chineses afirmaram que usam a tecnologia, número alto se comparado à média global de 54%. Os chineses também estão na dianteira em relação a criação de patentes de IA, com mais de 38 mil patentes criadas no setor de 2014 a 2023.

Pequim é um dos princípios líderes na corrida regulatória internacional

Em maio deste ano, o Comitê Técnico Nacional de Padronização de Segurança da Informação (NISSTC) publicou uma proposta de projeto de regulação das IAs generativas com foco na criação de medidas e diretrizes de segurança dos modelos, com foco na proteção de dados e na implementação de protocolos gerais de segurança. Chamado de “Tecnologia de Segurança Cibernética – Requisitos Básicos de Segurança para Serviço de Inteligência Artificial Generativa”, o documento estava em consulta pública até o dia 22 de julho.

O texto trata da segurança de dados de treinamento, garantindo a integridade das informações e fontes utilizadas para criar os sistemas de IA, especificando, por exemplo, que tipos de dados são considerados ilegais e prejudiciais e que devem ser evitados no desenvolvimento das tecnologias. Medidas de segurança também foram elencadas, como nos casos de produtos de transação financeira e de atendimento a menores de idade.

Enquanto o mundo ainda testava as funcionalidades do ChatGPT, a China já caminhava para aprovar leis específicas sobre IA. Na primeira quinzena de janeiro de 2023, por exemplo, a regulação de deepfakes e conteúdos sintéticos entrou em vigor no país, restringindo o uso e a alteração de imagens e de vozes de pessoas sem consentimento para a produção de atividades consideradas ilegais, como a distribuição de informações falsas e prejudiciais.

Em agosto do mesmo ano, foi a vez das IAs generativas entrarem no foco do governo chinês, que por meio da Administração do Ciberespaço da China, levantou um conjunto de 24 diretrizes para gerenciar e desenvolver a indústria do setor.

Alguns dos requisitos estabelecidos pelo governo do país está a necessidade de que fornecedores da tecnologia realizem análises de segurança e registrem seus serviços junto ao governo antes do lançamento de novos produtos. Mecanismos de impulsionamento ao desenvolvimento e inovação também foram considerados nessa medida.