Um estudo da AI Forensics, analisado pelo Instituto de Defesa do Consumidor, revela que a ferramenta Grok tem sido usada para gerar imagens sexualizadas, muitas envolvendo mulheres, crianças e adolescentes, além de conteúdos extremistas. A análise identificou padrões de uso abusivo, com falhas nos mecanismos de proteção e moderação da plataforma X, incluindo a presença de figuras públicas e riscos de desinformação. Diante da gravidade, o Idec acionou órgãos como a Autoridade Nacional de Proteção de Dados e o Ministério Público Federal, pressionando por medidas urgentes e maior regulação, em um cenário que expõe como a IA pode ampliar violações e desigualdades no ambiente digital.

Com informações de Idec