A União Europeia chegou a um acordo, na última sexta-feira (8), sobre a versão final do que será a Lei de Inteligência Artificial, o AI Act, como é chamado em inglês, após 36 horas de discussão. A regulação, que já é considerada uma referência internacional, cria obrigações e deveres para o uso ético e responsável de tecnologias baseadas em IA, buscando conter desinformação e promover o bem-estar dos cidadãos e a segurança nacional.
De acordo com o texto final, os sistemas de IA de uso geral (chamadas, na sigla em inglês, de GPAI), como aquele que está por trás do ChatGPT, terão que seguir requisitos de transparência propostos pelas autoridades europeias. Isso inclui, por exemplo, a realização de relatórios e o detalhamento dos conteúdos utilizados para o treinamento dessas tecnologias. Além disso, as empresas deverão sinalizar quando um conteúdo foi gerado por IA, ajudando também a distinguir as chamadas imagens deepfake das reais
O AI Act segue uma abordagem baseada em risco e estabelece obrigações para provedores e serviços que utilizam a tecnologia, dependendo do nível de perigos que ela pode gerar à sociedade. Sistemas automatizados considerados de nível inaceitável, por exemplo, não poderão ser desenvolvidos e utilizados no bloco econômico, como sistemas de pontuação social baseada em comportamento ou características e aqueles que exploram as vulnerabilidades das pessoas, como idade, deficiência, situação social ou econômica.
A aplicação de tecnologias de reconhecimento facial em espaços públicos pela polícia ou governos só poderá ser realizada em casos restritos de segurança nacional, como para a busca direcionada a uma pessoa condenada ou suspeita de ter cometido um crime. O não cumprimento das regras pode acarretar em multas de até 35 milhões de euros ou 7% da receita global das empresas.
O comissário europeu, Thierry Breton, afirmou no seu perfil do Twitter (ou X) que o acordo sobre o AI Act foi histórico para o continente. “O AI Act é muito mais do que um guia de regras, é uma plataforma de lançamento para startups e pesquisadores da UE liderarem a corrida global da IA”, avaliou Breton.
Após o anúncio do acordo, o coletivo European Digital Rights (EDRi) reconheceu que a proteção de alguns direitos digitais foi conquistada no texto final, mas alertou que a lei ainda apresenta lacunas de respeito aos direitos fundamentais, principalmente sobre os sistemas de reconhecimento facial e monitoramento biométrico.
“É difícil ficar entusiasmado com uma lei que, pela primeira vez na UE, tomou medidas para legalizar o reconhecimento facial público ao vivo em todo o bloco. Embora o Parlamento tenha lutado arduamente para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis é, na melhor das hipóteses, morno. Nossa luta contra a vigilância biométrica em massa deve continuar”, afirmou Ella Jakubowska, Conselheira Sênior de Política, Direitos Digitais Europeus da ERDi.
O acordo foi fechado após extensas discussões que começaram ainda na quarta-feira (6), fase chamada de trílogos. Antes disso, o texto já havia passado pela Comissão e pelo Parlamento europeu. O AI Act, que é considerado uma das referências na construção do Projeto de Lei 2338/2023, agora volta para as casas legislativas para ser formalmente adotado e promulgado como lei.