A cada 41 segundos, o Grok cria uma imagem sexualizadas de crianças

A inteligência artificial Grokdesenvolvida pela empresa xAI de Elon Musk, gerou aproximadamente 3 milhões de imagens sexualizadas durante apenas 11 dias, incluindo cerca de 23 mil imagens de menores de idadesegundo pesquisa divulgada pelo Centro para Combate ao Ódio Digital (CCDH).

De acordo com o relatório, durante o período analisado (29 de dezembro a 9 de janeiro), o Grok produziu uma média alarmante de 190 imagens sexualizadas por minuto. A estatística mais perturbadora revela que, a cada 41 segundos, uma imagem sexualizada de criança era criada pela inteligência artificial.

O CCDH baseou seu estudo em uma amostra aleatória de 20 mil imagens geradas pelo Grok, extrapolando posteriormente as estimativas para o total de 4,6 milhões de imagens produzidas no período. O relatório classificou como “sexualizada” qualquer imagem com representações fotorrealistas de pessoas em posições sexuais, roupas íntimas, trajes de banho reveladores ou contendo fluidos corporais sugestivos.

As descobertas apontam que o problema vai muito além de números abstratos. Diversas figuras públicas como Taylor Swift, Selena Gomez e Kamala Harris foram vítimas dessas manipulações, tendo suas imagens originais transformadas em conteúdo sexualmente explícito sem consentimento.

Em 9 de janeiro, a xAI implementou restrições, limitando a capacidade do Grok de editar imagens existentes apenas para usuários pagantes. Cinco dias depois, a plataforma X bloqueou a função de “despir digitalmente” pessoas reais através do Grok, transformando essencialmente o problema em um recurso premium antes de tentar contê-lo.

Contudo, o relatório revela que essa restrição foi aplicada apenas no X (antigo Twitter), enquanto o aplicativo independente do Grok continua gerando esse tipo de conteúdo problemático, apesar das políticas explícitas das lojas de aplicativos que proíbem tal comportamento.

O caso levanta questões sérias sobre a responsabilidade das grandes empresas de tecnologia. Mesmo após 28 grupos de defesa dos direitos das mulheres publicarem uma carta aberta exigindo ação, tanto a Apple de Tim Cook quanto o Google de Sundar Pichai não removeram o aplicativo Grok de suas lojas e sequer se pronunciaram publicamente sobre o assunto.

O estudo também identificou que 29% das imagens sexualizadas de crianças permaneciam acessíveis na plataforma X até 15 de janeiro, mesmo após algumas publicações terem sido removidas. Isso ocorre porque as imagens continuavam disponíveis através de seus URLs diretos.

Especialistas em segurança digital alertam que essa situação expõe falhas graves nos sistemas de moderação das plataformas e levanta preocupações sobre o potencial uso dessas tecnologias para produção automatizada de conteúdo abusivo em escala industrial.

Você também pode gostar dos artigos abaixo:

xAI libera Grok Imagine com modo ‘Spicy’ e permite geração de conteúdo adulto por IA

Elon Musk diz que Grok 5 pode alcançar inteligência comparável à humana