Sam Gregory, diretor executivo da Witness, organização internacional para uso de tecnologia emergente em defesa dos direitos humanos, disse hoje, 28/11, durante o seminário “Desinformação e Eleições na Maioria Global”, que plataformas precisam ser mais eficientes em identificar conteúdos feitos por Inteligência Artificial. “Elas não estão fazendo um bom trabalho sobre isso, ainda não conseguem identificá-los”, afirmou.
Sam participou da mesa “IA Generativa como ameaça e ferramenta”, junto com Tai Nalon, diretora do Aos Fatos e Amil Khan, da Valent Projects.
A Witness tem feito testes com ferramentas de identificação de IA em diversos suportes. Segundo Gregory, mesmo com toda a popularização da IA generativa, ainda não é fácil criar vídeos muito realistas, mas áudios e imagens sim. Com isso, o conteúdo falso nestes formatos aumentou muito nas redes sociais e, para ele, é uma responsabilidade das plataformas conseguir rastrear e dar a devida identificação.
“Fizemos um exercício em Nairóbi (capital do Quênia), onde a organização atua, quanto tempo levaria para criar uma imagem realista sobre direitos humanos. O resultado é que elas não ficaram excelentes, mas tampouco são horríveis”.
Sobre os conteúdos desinformativos feitos com IA generativa mais detectados pela Witness, ele citou violência de gênero para atacar, principalmente, mulheres e comunidade LGBTQIAP+. Também reforçou que imagens de armas se tornaram muito mais frequentes e vídeos com pessoas que nunca existiram, vídeos falsos com pessoas falsas.
Em contextos especiais, como eleições e guerras, há uma tendência de aumento dos conteúdos falsos feitos por IA generativa. Sam citou os exemplos das eleições argentinas e da guerra Israel-Hamas.
Para responder a este avanço do volume de conteúdos falsos, o especialista não acredita em letramento digital porque acha que a pessoa não será capaz de reconhecer a montagem apenas sabendo como ela funciona. Ele avalia que as ferramentas de detecção de mídia sintética é que precisam ficar mais acessíveis. “Elas erram, não estão disponíveis para a comunidade global, mas se você sabe usar as ferramentas pode conseguir uma efetividade de 85”, calculou.