A OpenAI, criadora do ChatGPT, divulgou nesta segunda-feira (15) novas regras e medidas para prevenir abusos, fornecer transparência no conteúdo gerado por Inteligência Artificial e melhorar o acesso a informações precisas sobre eleições. Entre os anúncios, está a proibição do uso do ChatGPT e sua API para criação de aplicações para campanhas políticas e lobby. “Ainda estamos trabalhando para entender a eficácia de nossas ferramentas para persuasão personalizada. Até sabermos mais, não permitimos que as pessoas criem aplicações para campanhas políticas e lobby”, explicou a empresa em comunicado.
Além disso, a OpenAI incluiu uma proibição para impedir que criadores desenvolvam chatbots que finjam ser pessoas reais, como candidatos, ou instituições. Outra regra anunciada pela empresa não permite que candidaturas tentem dissuadir as pessoas de participar em processos democráticos, seja desinformando sobre quando e onde votar, seja desencorajando a votação.
“Durante anos, temos trabalhado em ferramentas para melhorar a precisão factual, reduzir preconceitos e recusar certas solicitações. Estas ferramentas fornecem uma base sólida para o nosso trabalho em torno da integridade eleitoral. Por exemplo, o DALL·E possui barreiras para recusar pedidos que solicitem a geração de imagens de pessoas reais, incluindo candidatos”, disse o comunicado institucional.
“Mas todas essas ferramentas estão atualmente apenas em processo de implantação e dependem fortemente de usuários denunciarem maus atores”, disse Alex Cranz, editor-chefe e co-apresentador do The Vergecast, em uma análise sobre o tema.
A OpenAI também anunciou algumas medidas de transparência sobre o conteúdo que é gerado pela IA. Para isso, a empresa afirmou que, ainda no começo desse ano, deve implementar credenciais digitais para imagens geradas pelo DALL·E 3 e informou que está experimentando uma nova ferramenta para detecção de imagens geradas pela IA generativa. “Nossos testes internos mostraram resultados iniciais promissores, mesmo quando as imagens foram sujeitas a tipos comuns de modificações. Planejamos disponibilizá-lo em breve ao nosso primeiro grupo de testadores – incluindo jornalistas, plataformas e pesquisadores – para feedback”, disse no comunicado.
O trabalho de transparência também atinge o ChatGPT. A empresa diz que a ferramenta está se integrando com fontes de informação existentes, ou seja, está fornecendo links com a origem da informação. De acordo com a OpenAI isso pode “ajudar os eleitores a avaliar melhor a informação e a decidir por si próprios em que podem confiar”.
Especificamente para as eleições dos Estados Unidos, a empresa anunciou uma parceria com a Associação Nacional de Secretários de Estado (NASS). “O ChatGPT direcionará os usuários para CanIVote.org, site confiável sobre informações eleitorais nos EUA, quando forem feitas certas perguntas processuais relacionadas às eleições – por exemplo, onde votar. As lições deste trabalho informarão a nossa abordagem noutros países e regiões”, disse a empresa.