“Precisamos evitar a demonização e a idolatria das Inteligências Artificiais”. Foi sugerindo um caminho mais ponderado em relação à IA que Virgílio Almeida, professor da Universidade Federal de Minas Gerais (UFMJ) e titular da Cátedra Oscar Sala (COS), iniciou o seminário “IA Responsável” realizado ao longo desta terça e quarta-feira no Instituto de Estudos Avançados da Universidade de São Paulo. Aplicação de diretrizes éticas em áreas como mercado de trabalho, governo e jornalismo foram abordados durante o evento.

Ao longo da sua fala, Virgílio – que também abordou o tema da IA no Panorama 2024 – também comentou sobre a aceleração tecnológica que estamos vivendo atualmente, além do crescimento do interesse pela pesquisa e pela ciência no campo da IA – o maior exemplo disso foram os prêmios Nobel de química e de física deste ano serem destinados a pesquisadores relacionados à área.

De acordo com o pesquisador, estamos vivendo num mundo “em construção”, em que também são construídos os mecanismos de governança e de entendimento da tecnologia. Levantando exemplos sobre riscos trazidos pela implementação de sistemas de IA na sociedade, como o caso da mulher que foi presa “por engano” nos Estados Unidos, Virgílio pontuou que não é somente as tecnologias as responsáveis pelos erros, mas também o comportamento e o erro humano.

“Não tem jeito de viver fora das tecnologias, mas todos os serviços e interações ocorrem por meio dessas interações”, disse o docente durante o seminário. “Mas há melhor jeito de reorganizar essa sociedade para que valores humanos e democráticos sejam preservados.”

Direitos dos trabalhadores de IA e regulação

A relação da IA e trabalho, como o impacto da tecnologia no mercado e no cotidiano de trabalhadores, e a presença do tema nas regulações da tecnologia no país foram alguns dos temas também debatidos no evento da COS. Segundo Rafael Grohmann, professor da Universidade de Toronto, o mundo do trabalho é sub-representado tanto nos projetos regulatórios no país como na Estratégia Brasileira de Inteligência Artificial (EBIA). Um ponto que foge desses documentos, ainda de acordo com Grohmann, são os trabalhadores de dados (“data workers”, em inglês), responsáveis por treinar os sistemas de IA.

Por outro lado, o Brasil também tem o potencial de ser protagonista na área de pela capacidade de engajamento e articulação de diversos atores da sociedade. “O Brasil pode ser protagonista em leis mais arrojadas no mundo do trabalho”, afirmou o pesquisador.

A regulação de IA também foi discutida por Christian Perrone, do Centro de Estudos em Tecnologia e Sociedade (CETyS), que pontuou como os usos positivos da tecnologia podem servir de orientação para a construção de leis que também incentivem os usos éticos e responsáveis das tecnologias. Um desses exemplos foi a aplicação da IA durante a crise climática do Rio Grande do Sul para compreender quais locais foram mais impactados pelas enchentes e quais áreas de risco poderiam surgir.

Como explicou Perrone, um dos principais desafios dos países atualmente é construir uma governança da IA que mantenha a soberania nacional – permitindo, por exemplo, criação de base de dados regionais – e que, ao mesmo tempo, possa manter a conexão do ecossistema internacional tecnológico. 

IA para além das big techs

A importância de mapear o setor de IA para compreender quem são os atores e como as dinâmicas da tecnologia funcionam foi levantado por Bruna Martins dos Santos, gerente de campanhas globais da Digital Action. “Nós falamos muito da Meta, do Google e da OpenAI como criadores, mas quando olhamos para o leque de atores no setor de IA, nós vemos que o grupo de empresas que criam IA e que tem oferecido produtos é muito maior que só as big techs”, disse.

De acordo com Santos, compreendendo quem são esses atores, é possível entender também quais são as “raízes” dos impactos negativos e, assim, quais são as melhores formas de buscar um desenvolvimento mais seguro e responsável.