As comissões de Comércio Interno e Liberdades Civis do Parlamento Europeu aprovaram nesta quinta-feira (11) o projeto de lei que regula a Inteligência Artificial no bloco econômico, chamado também de AI Act. O texto, atualizado após o surgimento do ChatGPT e das demais IAs Generativas, determina mais transparência e segurança às funcionalidades e proíbe o uso de sistemas de reconhecimento biométricos de vigilância. O projeto segue para votação geral no Parlamento em junho.
Fundamentado na abordagem baseada em riscos, o documento legislativo estabelece obrigações para provedores e usuários da tecnologia. Sistemas automatizados considerados de nível inaceitável de risco, como aqueles que implementam técnicas intencionalmente manipulativas, exploram vulnerabilidades dos cidadãos ou são usados para pontuação social, seriam estritamente proibidos.
Fazem parte desse grupo, por exemplo, funcionalidades que lidam com dados biométricos dos cidadãos, como sistemas de identificação em espaços públicos, sistemas de categorização usando características sensíveis (como gênero, raça, etnia, religião e orientação política) e sistemas de coleta de informações para a criação de banco de dados de reconhecimento facial.
Já as diretrizes para as IAs Generativas sem propósito específico, que se popularizaram desde o final do ano passado com o ChatGPT, foram adicionadas ao texto nos últimos meses, o que acabou por atrasar o andamento do processo legislativo. Na versão aprovada pelos comitês nesta quinta, elas aparecem como “sistemas de fundação”, termo utilizado para descrever IAs treinadas com grandes quantidades de dados que podem ser usadas para diversas aplicações.
Para esses sistemas – que incluem também o Bard do Google, o MidJourney e diversas outras aplicações – a proposta de lei inclui obrigações de garantia da proteção dos direitos fundamentais, saúde, segurança, meio ambiente e democracia. Eles também precisam avaliar e mitigar riscos e cumprir requisitos de transparência, como o fornecimento de relatórios detalhados com informações sobre uso de dados protegidos por direitos autorais para o treinamento dos sistemas e a obrigação de deixar claro aos usuários que os conteúdos produzidos são sintéticos.
Lei garante também a proteção à inovação
A proposta legislativa também visa proteger a inovação no setor. Para isso, foram adicionadas isenções a essas regras para atividades de pesquisa e componentes de IA fornecidos sob licença de código aberto.
Na votação, o co-relator do projeto e deputado romeno, Dragos Tudorache, afirmou que a casa legislativa está para aprovar uma das peças mais importantes da atualidade. “Nós temos trabalhado para apoiar a inovação da IA na Europa e dar espaço de crescimento para startups, empresários e indústria, protegendo direitos fundamentais, fortalecendo a democracia e garantindo um sistema maduro de governança e aplicação de IA”, afirmou o político europeu.
O AI Act é um dos marcos regulatórios que serve de referência para esforços semelhantes no Brasil. No seminário sobre o assunto realizado pelo Conselho de Justiça Federal, em abril deste ano, a iniciativa europeia foi um dos temas debatidos na programação. Na semana passada, o presidente do Senado brasileiro, Rodrigo Pacheco (PSD-MG), apresentou à casa legislativa um projeto de lei para estabelecer bases de funcionamento de IAs no país.
Organizações da sociedade civil apontam ausência de proteção a migrantes
O coletivo de organizações da sociedade civil organizada europeia, o EDRi, lançou uma nota sobre a votação a favor da proposta, apontando a ação da casa legislativa da UE em colocar a proteção dos direitos dos cidadãos à frente dos sistemas automatizados. De acordo com a entidade, o Parlamento atendeu as preocupações levantadas pela sociedade em relação aos dispositivos de vigilância biométrica e também às diretrizes de transparência para sistemas de alto risco.
Apesar dos avanços identificados, pontos preocupantes que passaram despercebidos pelos deputados europeus também foram identificados, como a ausência de diretrizes para proteção de migrantes no bloco econômico. Isso porque sistemas que facilitam a vigilância dessas pessoas não foram citados como exemplos de alto risco.
“O Parlamento está mandando uma mensagem globalmente significativa aos governos e desenvolvedores de IA com sua lista de proibições, apoiando-se nas demandas da sociedade civil que mostram como alguns usos desses sistemas são bastante perigosos para serem permitidos. Infelizmente, o apoio do Parlamento Europeu aos direitos das pessoas não chega a proteger os migrantes dos danos da IA”, afirmou Sarah Chander, consultora sênior de políticas do EDRi.
Próximos passos
Após a aprovação desta quinta-feira nas comissões, o projeto de lei segue para a votação geral no Parlamento, prevista para acontecer entre os dias 12 e 15 de junho. Se atingir a maioria dos votos a favor, a proposta entra na fase dos trílogos, reuniões a portas fechadas com representantes da Comissão e do Parlamento Europeus para a elaboração do texto final. Com o parecer favorável de ambas as casas legislativas, a lei é aprovada e colocada em vigor.