Na política atualizada, a OpenAI criou um novo “grupo consultivo de segurança” que ficará acima das equipes técnicas, e fará recomendações à liderança e ao conselho sobre os riscos de novos modelos desenvolvidos pela companhia. Os executivos, liderados pelo CEO Sam Altman, tomarão decisões baseadas nisso; e o conselho da empresa poderá vetar tais decisões.

A OpenAI postou suas novas medidas de segurança, englobadas sob um “Quadro de Prontidão” (Preparedness Framework), em seu blog no início desta semana.

“O estudo dos riscos da IA de fronteira ficou muito aquém do que é possível e onde precisamos estar. Para preencher essa lacuna e sistematizar nosso pensamento de segurança, estamos adotando a versão inicial de nosso Quadro de Prontidão. Ele descreve os processos da OpenAI para rastrear, avaliar, prever e proteger contra riscos catastróficos representados por modelos cada vez mais poderosos”, diz a empresa na introdução de seu novo plano de segurança.