No dia 4 de maio deste ano, as areias de Copacabana foram tomadas por milhares de pessoas que se apertaram para assistir o último show da turnê da Madonna. A rainha do Pop, mesmo a mais de dois metros acima da multidão, não conseguiria olhar de volta para cada um dos 1,6 milhão de fãs que estavam à sua frente, mas a prefeitura do Rio de Janeiro já estava fazendo isso por ela.

A “Operação Madonna”, como foi chamado o plano de segurança da prefeitura, além de contar com um efetivo de 4,7 mil policiais civis e militares, também lançou mão de sistemas e câmeras de reconhecimento facial para controlar o acesso do público ao espetáculo. 

Como no show da cantora norte-americana, o uso de sistemas de reconhecimento facial em grandes eventos vem crescendo consideravelmente no país desde 2019, apontou o relatório “Espetacularização da Vigilância”, lançado em agosto pelo O Panóptico, um projeto que monitora o reconhecimento facial no Brasil. Festas típicas das cidades, como festejos juninos e o carnaval, são as principais ocasiões de aplicação dessa tecnologia.

Só no primeiro semestre de 2024 foram registrados 39 eventos no país com uso da tecnologia. Ao todo, 21 municípios usaram os sistemas. No carnaval, por exemplo, foram oito estados: Bahia, Rio de Janeiro, Minas Gerais, Paraíba, Acre, Amapá, Pernambuco e Rondônia – o que tornou este o “carnaval mais vigiado da história”.

O crescimento do uso do reconhecimento facial em eventos levanta preocupações devido a casos já conhecidos de erros na identificação e possíveis prisões de pessoas inocentes. No final de 2023, no Pré-Caju, tradicional micareta de Aracaju (SE), por exemplo, uma mulher negra foi retirada da festa após ser reconhecida erroneamente pela tecnologia. Outro caso ocorreu recentemente no Rio de Janeiro, ainda nos primeiros dias de 2024, quando duas pessoas foram detidas por erro do sistema na festa de réveillon em Copacabana.

“Há uma diversidade de pesquisas que destacam os limites do uso, a irracionalidade do gasto público, a falta de transparência nos projetos e os erros e o reforço de práticas seletivas de policiamento e controle que afetam mais determinados grupos sociais por razões de classe, cor e gênero”, trouxe o documento. “A produção sistemática de falsos positivos e erros com o uso de reconhecimento facial gera diversas formas de constrangimento e violência, além de contribuir para a criminalização de populações que já são historicamente alvos de violência”, acrescentou.

O estudo também pontua que o uso das tecnologias pelo poder público vem acompanhado de uma espetacularização da segurança: “Assim, tentam emplacar uma narrativa em que a presença visível desses dispositivos sugeriria uma maior sensação de segurança. A estrutura de cidade vigiada não garante segurança e, ao contrário, denuncia a forma pela qual as populações vulneráveis estão sendo governadas, tendo seus dados capturados e seus corpos submetidos a formas de violência e mesmo de detenção”.

Sociedade civil pede banimento da tecnologia no país

No ano passado, o Instituto DaHora evidenciou os impactos das ferramentas de IA em populações racializadas, denunciando a falta de pessoas não-brancas no desenvolvimento dessas tecnologias. A campanha “Reconhecimento Artificial” buscou mostrar como o racismo está incrustado no desenvolvimento dos sistemas de reconhecimento facial, que seguem desconsiderando a diversidade da população mundial.

O movimento #TireMeuRostoDaSuaMira, da sociedade civil brasileira, também luta pelo banimento total do uso das tecnologias de reconhecimento facial na segurança pública brasileira. Como mostra a iniciativa, a aplicação dos sistemas está relacionada a violações de direitos, como privacidade, liberdade e proteção de dados.

O uso do reconhecimento facial está incluso no projeto brasileiro de regulação de IA, o Projeto de Lei 2338/2023, que autoriza a aplicação da tecnologia em casos específicos como na recaptura de réus evadidos.