OpenAI, Microsoft, Google, Meta são algumas das empresas norte-americanas que lideram atualmente a corrida de IA internacional. Mas à medida que estamos vendo avanços no setor de IA, pesquisadores e representantes da sociedade civil do Brasil e do mundo estão questionando a centralização de poder nas mãos dessas poucas empresas do Norte Global e propondo possibilidades de desenvolvimento tecnológico que respeite particularidades regionais e os cidadãos de uma determinada localidade.
As pesquisadoras Joana Varon, do Coding Rights, Sasha Costanza-Chock, do Berkman Klein Center for Internet and Society, e Timnit Gebru, do Distributed Artificial Intelligence Research Institute, por exemplo, apontam a possibilidade da construção de um ecossistema alternativo para o desenvolvimento de IA que fuja dos modelos centralizadores das bigtechs, em um estudo submetido ao T20 (Think 20), grupo de engajamento do G20 que reúne representantes de organizações e think tanks.
De acordo com as pesquisadoras, os sistemas de IA estão sendo desenvolvidos e aplicados pelas empresas de tecnologia com um modelo unilateral e centralizado (chamado de “um modelo para tudo”) responsável por aumentar as desigualdades, as opressões automatizadas e contribuir para a crise climática.
Essa lógica, então, dá a capacidade desses atores não só de controlarem o processo de extração de grandes quantidades de dados como também de processar e treinar os sistemas automatizados, que, como mostram diversas pesquisas realizadas nos últimos meses, estão cheios de vieses preconceituosos.
“Esta dependência de grandes conjuntos de dados sem curadoria originou modelos com resultados racistas, capacitistas, sexistas e tendenciosos, além de desigualdade automatizada, pobreza, xenofobia e todo o espectro de violência contra corpos e territórios de comunidades historicamente marginalizadas”, listou o documento.
As pesquisadoras também apontam como os modelos de negócios das empresas de IA contribuem para a exploração de trabalhadores em países do Sul Global. Esses profissionais, responsáveis por treinar e moderar os dados necessários para o funcionamento global da tecnologia, geralmente são submetidos a dinâmicas de trabalhos extenuantes e remunerações baixas.
Incentivo a sistemas descentralizados é uma das saídas propostas
Nas recomendações ao T20, as autoras afirmam que impedir a centralização de poder por meio da IA não é inevitável. “Para contrariar a hegemonia das grandes tecnologias no desenvolvimento da IA e a catástrofe ambiental e social que ela acarreta, apelamos ao G20 para que apoie um ecossistema alternativo de IA onde as comunidades trabalhem com os programadores para construir modelos pequenos e específicos para tarefas que cumpram suas necessidades, em vez da abordagem “um modelo para tudo” adotada pelas grandes empresas de tecnologia”, escreveram.
As pesquisadoras defendem a construção de um ecossistema de IA descentralizado por meio de seis recomendações para o G20, que incluem: a priorização de contratos com organizações tecnológicas cooperativas e pequenas e médias empresas locais; o financiamento de projetos com infraestrutura partilhada; e a garantia que os recursos e conjuntos de dados de uma comunidade não sejam apropriados por grandes empresas de tecnologia sem consentimento ou compensação.
As recomendações, bem como detalhes das conclusões e considerações das pesquisadoras, estão disponíveis, em inglês, aqui.
Caminhos para uma IA além das bigtechs foi tema de evento na USP
Na segunda-feira (24), a IA Decolonial, que busca atrelar os estudos críticos decoloniais ao campo da Inteligência Artificial, foi tema central em um colóquio realizado pelo Instituto de Estudos Avançados da Universidade de São Paulo (IEA-USP).
Uma das participantes do evento, Elen Nas, pós-doutoranda na Cátedra Oscar Sala do IEA-USP e integrante do grupo deconolozAI, comentou que a IA como produto do Norte Global vem de um imaginário e de uma cultura industrial que se desenvolveu por meio da violência colonial e da exploração de indivíduos.
“Se a gente quiser que a IA seja multicultural e representativa, a gente precisa entender como os algoritmos estão sendo feitos e como podemos interferir nesse processo”, afirmou a pesquisadora durante o evento.
O nigeriano-britânico Femi Omere, integrante da organização AI4AFRICA, também foi um dos convidados do colóquio e pontuou a necessidade de criar autonomia para além das narrativas predominantes das empresas de tecnologia hegemônicas. “Temos que parar de mendigar para os grandes atores e nós mesmos criarmos uma nova realidade com novas histórias”, disse Omere.
O pesquisador aproveitou para apresentar a HiA Network, uma plataforma de rede social criada por desenvolvedores da África, um exemplo de rede federada – um modelo de desenvolvimento colaborativo mais ético e seguro – hospedada em servidores locais. Segundo Omere, o objetivo foi construir a funcionalidade sem replicar os valores do Vale do Silício.
“Elas [as bigtechs] são importantes, não dá pra negar, mas a história não acaba nas mãos delas. Nós podemos fazer algo e caminhar ao lado delas e não atrás”, concluiu.