O Instituto de Defesa do Consumidor (Idec) pediu ao governo federal, nesta segunda-feira (12.jan.2026), a suspensão do funcionamento do Grok, o chatbot dentro do X, após a ferramenta gerar imagens sem roupa de mulheres e crianças na primeira semana do ano.

O ofício é direcionado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne integrantes da Secretaria de Direitos Digitais do Ministério da Justiça e da Segurança Pública, da Secretaria Nacional dos Direitos da Criança e do Adolescente do Ministério dos Direitos Humanos e da Cidadania, da Secretaria de Políticas Digitais da Presidência da República e do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).

O Idec argumenta que apesar de a política interna da ferramenta de inteligência artificial proibir o uso para produção de imagens sexualizadas ou pornográficas sem consentimento, a regra tem sido insuficiente para coibir violações de direitos humanos e não impediu a geração de imagens de pouca roupa ou nudez completa de crianças e mulheres.

Leia aqui a íntegra do ofício ao Comitê Intersetorial sobre o Grok
Oficio Comitê Intersetorial - Grok.pdf
213 KB
download-circle

Desde dez.2025, os pedidos inundaram o X após uma "trend do biquíni", em que o usuário inseria a foto de uma pessoa e pedia à IA para mudar a vestimenta dela.

💡
De acordo com a pesquisadora de mídias sociais, Genevieve Oh, entre 5 e 6.jan.2026, o Grok gerou 6.700 imagens ilegais de cunho sexual por hora. No Brasil, ao menos duas mulheres registraram boletins de ocorrência ao serem vítimas de deepfakes sexuais.

O X chegou a desabilitar temporariamente a aba de mídia do Grok ao alegar falha nos mecanismos de proteção. Após tirar sarro da trend na época, Elon Musk disse que o conteúdo ilegal seria removido. Agora, quem tenta editar uma imagem do tipo recebe um aviso do Grok de que o recurso está restrito a apenas assinantes do serviço.

A deputada federal Erika Hilton (Psol-SP) fez uma denúncia formal sobre o caso ao Ministério Público Federal e à Agência Nacional de Proteção de Dados (ANPD) a qual, a partir de março, vai fiscalizar o cumprimento do ECA Digital.

Neste domingo (11.jan.2026), Musk repostou uma publicação comentando "True" (verdade, em tradução livre), na qual um usuário afirma que outras ferramentas de IA produzem imagens de pessoas de biquíni ou pior e que o Grok e o X estariam sendo "perseguidos" por se colocarem contra "exigências de censura".

O Idec sustenta que existe relação de consumo entre o X e os usuários já que, mesmo ofertando um serviço gratuito, "o uso promove ganhos financeiros indiretos para a empresa". Além disso, apontou a decisão do Supremo Tribunal Federal que reconheceu a responsabilidade das plataformas na difusão de conteúdo ilícito ou ilegal e violações à Lei Geral de Proteção de Dados (LGPD) e ao Estatuto da Criança e do Adolescente (ECA).

"A resposta da empresa, portanto, não apresentou qualquer medida concreta de prevenção, correção estrutural ou mitigação de riscos, tampouco reconheceu sua própria responsabilidade pela falha dos mecanismos de segurança da ferramenta. Ao reiterar políticas preexistentes e deslocar o foco para a responsabilização individual dos usuários, a plataforma deixa evidente que o problema persiste em sua arquitetura tecnológica e em seu modelo de funcionamento, mantendo aberto o risco de continuidade das violações. Nas condições atuais, a simples invocação de políticas internas e a limitação do acesso mediante pagamento não se mostram suficientes para prevenir novos danos, indicando que os riscos sistêmicos permanecem ativos", diz o Idec.

A atuação do instituto vai no mesmo caminho de outros países: a Malásia determinou a suspensão do chatbot, já o Reino Unido abriu uma apuração por causa da produção das imagens sexualizadas.

Na semana passada, a Comissão Europeia estendeu uma ordem para que o X preserve documentos internos e dados sobre o Grok até o fim de 2026.

Texto Jeniffer Mendonça
Edição Alexandre Orrico