A OpenAI anunciou, na última sexta-feira (16), que barrou uma operação iraniana que usava o ChatGPT para influenciar as eleições deste ano nos Estados Unidos. De acordo com a empresa, a campanha buscava produzir conteúdos textuais sobre diversos tópicos, incluindo comentários sobre candidatos de ambos os partidos, para serem compartilhados nas redes sociais, como X e Instagram, e em sites que se passavam por veículos de notícias.

O anúncio foi feito por meio de uma publicação no blog da OpenAI, que disse também que bloqueou o acesso dos serviços aos usuários identificados. A empresa, uma das líderes na corrida global da Inteligência Artificial, afirmou que a campanha iraniana usou o ChatGPT para criação de artigos longos e comentários mais curtos para as plataformas digitais, incluindo temas relacionados ao conflito de Israel e Hamas.

“O primeiro fluxo de trabalho produziu artigos sobre política dos EUA e eventos globais, publicados em cinco sites que se apresentavam como veículos de notícias progressistas e conservadores”, descreveu a OpenAI. “O segundo fluxo de trabalho criou comentários curtos em inglês e espanhol, que foram postados nas mídias sociais. Identificamos uma dúzia de contas no X e uma no Instagram envolvidas nessa operação. Algumas das contas X se apresentavam como progressistas e outras como conservadoras.”

Os conteúdos sintéticos produzidos com o chatbot inteligente, porém, tiveram pouco impacto nas redes sociais. “A maioria das postagens de mídia social que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário”, afirmou a empresa.

Em maio deste ano, a OpenAI já havia identificado uma outra campanha de uso malicioso dos seus produtos, desta vez orquestrada por agentes estatais de diferentes países, como China, Coreia do Norte, Rússia e o próprio Irã. Os atores buscaram usar as ferramentas da empresa para procurar soluções técnicas e orientações para solucionar tarefas de programação.

Com a realização de eleições ao redor do mundo neste ano, incluindo o Brasil, o temor das aplicações de ferramentas de IA para fins políticos e maliciosos vem crescendo. No início do ano, a OpenAI atualizou suas políticas, proibindo o uso do ChatGPT e de outros produtos em campanhas eleitorais, chegando a banir um chatbot de um pré-candidato democrata nos Estados Unidos. Apesar disso, criar forças-tarefas para apoiar eleições locais não está nos planos da empresa.