Um estudo publicado no GitHub identificou que modelos multimodais de inteligência artificial podem reforçar vieses raciais ao analisar imagens. A pesquisa mostrou que, em 14 sistemas baseados na arquitetura Vision Transformers (ViT-L), a probabilidade de um homem negro ou latino ser classificado como “criminoso” aumentou em até 69%. Especialistas atribuem o problema à baixa diversidade dos conjuntos de dados utilizados no treinamento dos modelos e alertam que esses vieses podem perpetuar estereótipos raciais e comprometer a representação de pessoas negras em aplicações de IA, como reconhecimento facial e geração de imagens.

Com informações de Alma Preta Jornalismo