A OpenAI divulgou nesta quinta-feira (8) uma avaliação de risco e segurança do seu sistema mais avançado, o GPT-4o, que considerou a tecnologia de “risco médio”. A análise levou em consideração a classificação mais alta de quatro categorias: segurança cibernética, ameaças biológicas, autonomia de modelo e persuasão. Enquanto nas três primeiras, o sistema foi considerado de baixo risco, a última foi considerada de médio risco.

A classificação em relação a persuasão veio após pesquisadores da empresa descobrirem que amostras de texto criadas pelo GPT-4o poderiam ser melhores em influenciar a opinião dos usuários em relação a criações humanas. 

A análise de risco, de acordo com a empresa, foi feita por especialistas em segurança, que tentaram encontrar fraquezas no sistema. A equipe examinou a possibilidade do GPT-4o de criar clones não autorizados da voz de alguém, conteúdo erótico e violento ou de usar conteúdos protegidos por direitos autorais para reprodução.

Com informações do The Verge.