Um estudo realizado por pesquisadores da Universidade da California Merced, concluiu que os humanos estão depositando confiança excessiva na Inteligência Artificial para orientar suas escolhas em decisões de vida ou morte. 

O experimento buscou simular situações em que o voluntário deveria escolher quais alvos, classificados entre inimigos e aliados, teriam que ser assassinados por meio de um ataque de drone. A IA, então, dava uma opinião sobre a validade dos alvos. Mesmo sendo informados sobre a falibilidade dos sistemas autônomos, dois terços dos sujeitos permitiram que suas decisões fossem influenciadas pela IA.

“Como sociedade, com a IA acelerando tão rapidamente, precisamos nos preocupar com o potencial de excesso de confiança”, disse o pesquisador principal, Professor Colin Holbrook, membro do  Departamento de Ciências Cognitivas e da Informação da UC Merced.Com informações do The Engineer.