Início 9 Destaques 9 Plataformas ainda não conseguem identificar conteúdos sintéticos

Últimas notícias

Witness

Plataformas ainda não conseguem identificar conteúdos sintéticos

Witness
COMPARTILHAR:

Sam Gregory, diretor executivo da Witness, organização internacional para uso de tecnologia emergente em defesa dos direitos humanos, disse hoje, 28/11, durante o seminário “Desinformação e Eleições na Maioria Global”, que plataformas precisam ser mais eficientes em identificar conteúdos feitos por Inteligência Artificial. “Elas não estão fazendo um bom trabalho sobre isso, ainda não conseguem identificá-los”, afirmou.  

Sam participou da mesa “IA Generativa como ameaça e ferramenta”, junto com Tai Nalon, diretora do Aos Fatos e Amil Khan, da Valent Projects.

A Witness tem feito testes com ferramentas de identificação de IA em diversos suportes. Segundo Gregory, mesmo com toda a popularização da IA generativa, ainda não é fácil criar vídeos muito realistas, mas áudios e imagens sim. Com isso, o conteúdo falso nestes formatos aumentou muito nas redes sociais e, para ele, é uma responsabilidade das plataformas conseguir rastrear e dar a devida identificação.

“Fizemos um exercício em Nairóbi (capital do Quênia), onde a organização atua, quanto tempo levaria para criar uma imagem realista sobre direitos humanos. O resultado é que elas não ficaram excelentes, mas tampouco são horríveis”.

Sobre os conteúdos desinformativos feitos com IA generativa mais detectados pela Witness, ele citou violência de gênero para atacar, principalmente, mulheres e comunidade LGBTQIAP+. Também reforçou que imagens de armas se tornaram muito mais frequentes e vídeos com pessoas que nunca existiram, vídeos falsos com pessoas falsas.

Em contextos especiais, como eleições e guerras, há uma tendência de aumento dos conteúdos falsos feitos por IA generativa. Sam citou os exemplos das eleições argentinas e da guerra Israel-Hamas.

Para responder a este avanço do volume de conteúdos falsos, o especialista não acredita em letramento digital porque acha que a pessoa não será capaz de reconhecer a montagem apenas sabendo como ela funciona. Ele avalia que as ferramentas de detecção de mídia sintética é que precisam ficar mais acessíveis. “Elas erram, não estão disponíveis para a comunidade global, mas se você sabe usar as ferramentas pode conseguir uma efetividade de 85”, calculou.

COMPARTILHAR:
0
Would love your thoughts, please comment.x