Um levantamento do Center for Countering Digital Hate (CCDH) aponta que o chatbot Grok, da xAI, gerou cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, incluindo aproximadamente 23 mil envolvendo crianças. Segundo a análise, baseada em uma amostra de imagens produzidas entre o fim de dezembro e início de janeiro, o sistema chegou a criar conteúdos desse tipo a uma taxa média de 190 por minuto. Embora a plataforma X tenha restringido parcialmente o recurso, o aplicativo independente do Grok continuaria permitindo a geração dessas imagens. O relatório também critica Apple e Google por manterem o app em suas lojas, apesar de políticas que proíbem esse tipo de conteúdo, ampliando o debate sobre responsabilidade das plataformas e falhas de moderação em ferramentas de IA.

Com informação de Engadget