O Parlamento Europeu aprovou com grande maioria, nesta quarta-feira (14), o projeto de lei que regula os sistemas de Inteligência Artificial, também conhecido, em inglês, como AI Act. Com isso, a casa legislativa dá sinal verde para o texto avançar em direção às tratativas finais, chamadas de trílogos, que começam já nesta noite. A aprovação e publicação definitiva da lei, que já é considerada referência mundial, é prevista até o final deste ano.

O texto aprovado conta com atualizações em relação a suas versões anteriores, como a inclusão de sistemas que possam influenciar eleitores e o resultado de eleições, bem como as tecnologias de recomendações das plataformas digitais, na categoria de alto risco. Usos de IA que representem danos significativos à saúde, segurança, direitos fundamentais ou meio ambiente também foram adicionados.

O AI Act segue uma abordagem baseada em risco e estabelece obrigações para provedores e serviços que utilizam a tecnologia, dependendo do nível de perigos que ela pode gerar à sociedade. Sistemas automatizados considerados de nível inaceitável, como aqueles utilizados para identificação e categorização biométrica e para policiamento preditivo, deverão ser estritamente proibidos no bloco econômico.

Thierry Breton, comissário da UE, comentou que a aprovação do parlamento foi um marco importante para o bloco econômico e que este é um momento de agir rápido e adotar responsabilidades sobre o desenvolvimento da tecnologia. Foram registrados 499 votos a favor, 28 contra e 93 abstenções.

“Nós estamos trabalhando juntos para tornar a Europa a líder em IA de confiança, protegendo os direitos fundamentais, refletindo os valores da União Europeia e incentivando a inovação em benefícios aos nossos cidadãos e negócios”, afirmou Breton.

No Twitter, a organização mundial Avaaz destacou pontos importantes do documento, como a priorização dos direitos humanos em relação aos lucros e o direito dos usuários de saberem quando estão interagindo com sistemas automatizados. “As pessoas devem saber quando e como as IAs são utilizadas com elas – e ser capazes de buscar justiça se forem prejudicadas”, pontuou a organização.

O projeto legislativo europeu serve de referência para outras iniciativas de regulação de IA mundo afora, inclusive para o Brasil, que também desenvolve esforços para criar regras e diretrizes de uso dessas tecnologias no país. 

Proteção a migrantes continua fora do texto

Ponto já levantado nos últimos meses por organizações europeias da sociedade civil, a proteção de migrantes contra o uso de sistemas automatizados de reconhecimento em fronteiras continua fora do texto do AI Act. A Anistia Internacional e o coletivo EDRi foram algumas das organizações que pediram novamente a inclusão do tópico, mesmo reconhecendo a importância da aprovação do texto geral.

“Embora a proibição da vigilância abusiva seja um passo bem-vindo na direção certa, esta não foi uma vitória total. É preocupante que o Parlamento Europeu tenha falhado em defender os direitos humanos quando os sistemas de IA afetam migrantes, refugiados e requerentes de asilo”, disse Mher Hakobuan, consultor de advocacia em regulação de IA na Anistia Internacional.

IAs de uso geral

O projeto de lei europeu também leva em consideração as IAs generativas sem propósito específico que se tornaram populares após o lançamento do ChatGPT, em novembro do ano passado. No texto, elas aparecem como “sistemas de fundação”, termo utilizado para descrever IAs treinadas com grandes quantidades de dados que podem ser usadas para diversas aplicações.

Os provedores desses sistemas, de acordo com o documento, deverão cumprir requisitos de transparência (divulgar que o conteúdo foi gerado por IA, ajudando também a distinguir as chamadas imagens deep-fake das reais) e garantir salvaguardas contra a geração de conteúdo ilegal. Resumos detalhados dos dados protegidos por direitos autorais usados ​​para seu treinamento também teriam que ser disponibilizados ao público.

Próximos passos

Com o aval do Senado, o texto agora segue para a fase final das tratativas, chamada de trílogo. Nessa etapa, representantes das três principais instituições europeias (Parlamento Europeu, Comissão Europeia e Conselho) se reúnem a portas fechadas para chegar a um acordo sobre o texto final. De acordo com Thierry Breton, essa fase se inicia ainda nesta quarta-feira (14). Espera-se que a lei seja promulgada até o final deste ano.