Um estudo da Universidade de Oxford identificou que sistemas de inteligência artificial com respostas mais calorosas e acolhedoras têm cerca de 30% mais chances de fornecer informações incorretas. A pesquisa, que analisou 400 mil respostas de diferentes chatbots, descreve o fenômeno como AI sycophancy (“bajulação da IA”), caracterizado pela tendência dos modelos de validar opiniões e sentimentos dos usuários em vez de priorizar respostas mais precisas. Outro estudo, publicado na revista Science, apontou que usuários tendem a confiar mais em chatbots que os elogiam ou concordam com eles, mesmo quando estão errados, levantando preocupações sobre os impactos desse comportamento na tomada de decisões e na propagação de desinformação. 

Com informações de g1