O relatório divulgado pela ONG Human Rights Watch aponta que fotos de crianças e adolescentes brasileiros são usadas para criar ferramentas de inteligência artificial sem o conhecimento ou consentimento deles.

A análise concluiu que o LAION-5B, um conjunto de dados usado para treinar ferramentas populares de IA e construído a partir da raspagem de informações de grande parte da internet, possui links para fotos identificáveis de crianças.

Ao todo, foram encontradas 170 fotos de crianças de dez estados brasileiros: Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo. Porém, a organização afirma que esse número seja uma pequena amostra do problema, uma vez que o LAION-5B possui 5,85 bilhões de imagens e legendas e a Human Rights Watch analisou 0,0001% do total.