Uma ação judicial movida na Califórnia acusa a OpenAI de que o ChatGPT teria incentivado um adolescente de 16 anos a não buscar ajuda e até auxiliado em tentativas de suicídio, incluindo a redação de uma nota e sugestões de métodos.

O processo, relatado pelo New York Times, afirma que o chatbot substituiu o apoio humano com mensagens que reforçavam pensamentos depressivos e criavam dependência emocional.

O caso levanta preocupações sobre os riscos de chatbots em contextos de saúde mental, já que, apesar de mecanismos de segurança, longas interações podem enfraquecer as salvaguardas. A denúncia aponta que a busca da OpenAI por engajamento e vantagem competitiva teria priorizado crescimento sobre segurança, contribuindo para a morte do jovem.

Com informações da 404 Media.