A OpenAI e a Microsoft anunciaram, nesta terça-feira (7), um fundo no valor de 2 milhões de dólares (pouco mais de 10 milhões de reais) para combater deepfakes e outros usos de Inteligência Artificial em contextos eleitorais. No ano considerado fundamental para as democracias, com um megaciclo de eleições acontecendo no mundo todo, a OpenAI também vai disponibilizar um detector de deepfakes para pesquisadores convidados que estudam desinformação. A Microsoft teve lucro líquido de US$ 21,9 bilhões no segundo trimestre fiscal de 2024 (equivalente ao último de 2023), uma alta de 33% em comparação ao mesmo período do ano anterior. Além disso, a Microsoft já investiu cerca de US$ 1 bilhão na OpenAI, empresa cujo valor de mercado está avaliado em mais de US$ 80 bilhões.
Chamado de “Fundo de Resiliência Social”, a ação busca promover a educação e a alfabetização em IA entre eleitores e comunidades vulneráveis, de acordo com o anúncio publicado no blog do Microsoft. As empresas afirmaram que a verba será destinada para apoiar a ação de diferentes organizações, como a Coalizão para Proveniência de Conteúdo (C2PA, na sigla em inglês), o Instituto Internacional para a Democracia e Assistência Eleitoral (IDEA Internacional) e a Parceria sobre IA (PAI).
Detalhes dos investimentos também foram anunciados. O IDEA Internacional, por exemplo, prevê a realização de treinamentos globais para ajudar a promover a conscientização pública e a resiliência eleitoral em relação à tecnologia. Participarão das atividades de educação órgãos de gestão eleitoral, representantes da sociedade civil e da imprensa.
“Esperamos trabalhar com estas comunidades em todo o mundo para aumentar a sua consciência e compreensão da IA e como esta irá impactar o trabalho vital que realizam”, disse Alberto Fernandez Gibaja, chefe do Programa para Digitalização e Democracia da organização.
Já a Parceria sobre IA, coletivo formado pelas principais empresas de tecnologia, espera utilizar o investimento para aperfeiçoar a Estrutura de Mídia Sintética, um programa que busca fornecer transparência sobre a IA generativa ao público, estabelecendo melhores práticas e políticas para o desenvolvimento seguro da tecnologia.
A Microsoft e a OpenAI afirmaram que a criação do fundo faz parte dos compromissos públicos assumidos nos últimos meses para os usos responsáveis da tecnologia, como o acordo da Casa Branca e o compromisso coletivo para combater o uso enganoso de IA nas eleições de 2024. “Os nossos objetivos comuns são combater o risco crescente de maus atores usarem IA e deepfakes para enganar eleitores e minar a democracia”, trouxe o comunicado.
OpenAI lança detector de deepfakes
A startup de IA também lançou, nesta terça, um detector de deepfakes para pesquisadores que estudam desinformação, como mostrou o The New York Times. A ferramenta consegue identificar com precisão de 98,8% os conteúdos criados por meio do DALL-E, IA generativa de imagens da empresa. Apesar disso, a OpenAI afirma que a funcionalidade não consegue identificar peças criadas por outras IAs generativas, como o Midjourney e o Gemini.
De acordo com a OpenAI, o detector de deepfakes será disponibilizado inicialmente apenas para teste com um grupo de acadêmicos convidados. “Isso é para dar início a novas pesquisas”, disse Sandhini Agarwal, pesquisadora da OpenAI que se concentra em segurança e políticas. “Isso é realmente necessário.” Mais detalhes sobre adesão à funcionalidade e disponibilidade para países não foram anunciados.
A criação de marcas d’água nos conteúdos sintéticos, que ajudam na identificação das deepfakes pelos sistemas das empresas de tecnologia, está sendo a principal iniciativa defendida pelo setor de IA para o combate das peças profundamente falsas. Mesmo assim, pesquisadores já apontam que é possível driblar essas barreiras de segurança impostas pelas empresas.