O substitutivo do Projeto de Lei 2338/2023, sugerido pela Comissão Temporária de Inteligência Artificial do Senado (CTIA) e que busca criar regras para o desenvolvimento e uso de IA no país, foi um dos temas debatidos na manhã desta sexta-feira (24) no último dia do Fórum da Internet no Brasil (FIB14). Pedidos de banimento do uso de sistemas de reconhecimento facial e de armas autônomas no texto da regulação foram feitos por representantes da academia e da sociedade civil diante dos riscos trazidos para a população negra brasileira.
A advogada e doutoranda em filosofia pela PUC do Rio Grande do Sul, Ana Gabriela Ferreira destacou que a possibilidade do uso dessas tecnologias por um sistema penal racialmente enviesado, aliado a banco de dados que também prejudica a população negra, requerem o banimento total desses sistemas no país.
“Não há uma utilização segura para reconhecimento biométrico e armas autônomas dentro do campo da segurança pública na nossa realidade”, afirmou a pesquisadora que fez parte da mesa “Prós e contras da adoção de normas internacionais na regulação de IA no Brasil”.
Gabriela lembrou os resultados de uma pesquisa realizada pelo Panóptico, projeto que mapeia o uso de reconhecimento facial no Brasil, que mostrou como a tecnologia utilizada no estádio do Maracanã pela Secretaria Estadual de Polícia Militar do Rio de Janeiro, em 2019, levou a 11 detenções de pessoas, 7 delas identificadas erroneamente pela máquina.
“Diante disso, não podemos falar de regulação que permitiria um uso seguro de IA, nós temos que falar de banimento como proteção essencial de direitos humanos e garantias”, afirmou.
Reforçando a necessidade do banimento das tecnologias de reconhecimento facial, Clarissa Mendes, líder de projetos em IA no Instituto de pesquisa em direito e tecnologia do Recife (IP.rec), pediu maior participação ativa e considerável da sociedade civil nos processos de discussão e formulação da governança de IA. “O que surge é o paradoxo da participação: há uma participação formal, mas sem resultados”, comentou.
Apelos de proibição do uso das tecnologias de reconhecimento facial também surgiram em outras ocasiões do evento, como na mesa “IA e Atividade Policial”, realizada na quarta-feira (22). Na ocasião, a pesquisadora Instituto de Referência em Internet e Sociedade (IRIS), Luiza Corrêa, afirmou que o campo da segurança pública brasileira possui um histórico de ofensas aos direitos humanos, com o uso ilegítimo da força e da violência sobre a população. “O reconhecimento facial deve ser banido”, afirmou.
CDR pede ao Senado banimento das tecnologias de reconhecimento facial
A Coalizão de Direitos na Rede (CDR), frente composta por organizações da sociedade civil que discutem os direitos digitais, enviou, na semana passada, contribuições para a CTIA a respeito do texto preliminar substitutivo ao PL 2338/2023. A articulação reafirmou a necessidade banimento das tecnologias de reconhecimento facial na segurança pública.
Em nota publicada em seu site oficial, a coalizão afirmou que, apesar do novo texto ter mantido a abordagem baseada em riscos, a forma como os categoriza desconsidera violações aos direitos fundamentais que já estão em curso contra populações marginalizadas brasileiras.
“No Brasil, já existem dados que comprovam que o uso da tecnologia à serviço da segurança pública, acarreta no aprofundamento do racismo, uma vez que a maioria das pessoas que são reconhecidas pela IA são pessoas negras, e em muitos desses casos, o reconhecimento é falho”, afirmou a CDR.
A CTIA recebeu sugestões da sociedade sobre o texto preliminar até a última quarta-feira. A expectativa é que a comissão apresente o resultado das sugestões no dia 5 de junho, indo à votação no dia 12 do mesmo mês.