A pressão para que tecnologias de Inteligência Artificial sejam desenvolvidas de forma mais responsável, colocando os cidadãos em primeiro lugar, ganhou mais um reforço. Nesta quarta-feira (28), o Fórum de Informação e Democracia lançou um documento que reúne mais de 200 recomendações para que governos e empresas de tecnologia desenvolvam IAs que fortaleçam a democracia e o ecossistema informacional. O relatório é um esforço global, elaborado com a contribuição de mais de 150 especialistas de todo mundo.
O documento – que se junta a iniciativas internacionais como das Nações Unidas e da Unesco – é dividido em quatro partes que tratam de assuntos relacionados a padrões seguros de desenvolvimento, responsabilização das empresas, governança e regulação de IA. “As recomendações possuem um papel holístico, buscando abranger três grandes eixos [relacionados à IA]: a criação, a disseminação e o consumo da informação”, disse Laura Schertel Mendes, professora da Universidade de Brasília e uma das líderes do grupo de trabalho responsável pela elaboração do relatório.
Uma das constatações definidas pelo documento é a de que empresas e entidades de IA podem construir proativamente sistemas inteligentes mais inclusivos e confiáveis. Para isso, devem implementar, por exemplo, medidas de mitigação de riscos e de mensuração de resultados, incluindo aplicação de mecanismos de reclamação para usuários e formação contínua para que as equipes internas consigam lidar com os impactos negativos das tecnologias.
O fórum também reforçou a necessidade da regulação de IA, afirmando a importância de construir regras que orientem a ação das empresas de tecnologia, obrigando-as a tornar públicas as informações sobre as bases de dados utilizadas, realizar avaliações de impactos antes do lançamento de novos produtos e criar estruturas de governança democrática, como conselhos de supervisão com representação de usuários. Em contexto mundial, o principal exemplo regulatório atual é a Lei de Inteligência Artificial que segue em tramitação nas casas legislativas da União Europeia, já no Brasil, temos o projeto de lei 2338/2023.
Ainda segundo Mendes, as recomendações também tratam de direitos que devem ser garantidos aos cidadãos, como o direito à informação e o direito à explicação. O primeiro deles determina que o indivíduo tem o direito de saber quais informações e quais produtos utilizam IA, já o segundo estabelece que o cidadão deve ser informado sobre os critérios utilizados pelas empresas para se chegar a determinadas decisões. “As recomendações são voltadas para as empresas e também para os Estados, para que eles ditem normas inovadoras e estabeleçam direitos que empoderem o indivíduo”, comentou Laura.
O esforço multinacional para a construção do documento foi reforçado ao longo de todo evento, realizado simultaneamente em seis cidades de diferentes países, incluindo Brasília, e com transmissão on-line. “Esse foi o projeto mais transacional do qual eu já participei”, afirmou Jonathan Stray, professor da Universidade de Berkeley e co-líder do grupo de trabalho junto com Laura. O Grupo de Trabalho de IA também é formado por mais 12 pesquisadores de países como Quênia, México e Coreia do Sul.
Esforço coletivo contra deepfakes nocivas
O tema das deepfakes, que vem ganhando força nesses primeiros meses do ano, também perpassou as discussões do evento. A necessidade de implantação de marcas d’água para identificação de conteúdos sintéticos, iniciativa prometida recentemente por empresas como Meta, foi uma das recomendações levantadas pelos pesquisadores para as plataformas.
“Entramos na era do vídeo sintético, isso requer que os desenvolvedores adicionem as marcas d’água para que o usuário possa saber o que estão vendo”, disse Jonathan Stray. O pesquisador também afirmou que, apesar da importância desses esforços, o combate às deepfakes nocivas nas redes digitais deve vir, principalmente, de uma ação coletiva envolvendo todo o ecossistema informacional. Exemplos de autenticação de informações foi uma das saídas sugeridas pelo professor.
O documento “IA como um bem público: garantindo o controle democrático da IA no ecossistema informacional” pode ser lido na íntegra, em inglês, no site do Fórum de Informação e Democracia.