A Comissão Europeia, braço executivo de 27 países que formam a União Europeia (UE), abriu, nesta segunda-feira (26.jan.2026), uma investigação contra o X (antigo Twitter) por conta das denúncias de propagação de deepfakes sexuais e de nudez por meio do Grok, a ferramenta de inteligência artificial da plataforma.

A vice-presidente executiva da Comissão responsável pela Soberania Tecnológica, Segurança e Democracia do órgão, Henna Virkkunen, afirmou que deepfakes sexuais de mulheres e crianças são "violentas e inaceitáveis" e que a apuração vai determinar se o X está seguindo as obrigações da Lei de Serviços Digitais (DSA, na sigla inglês) ou se está tratando os direitos de cidadãos europeus como dano colateral do serviço.

A medida segue a atuação de outras nações. Em 12.jan.2026, a Ofcom, agência reguladora de serviços de comunicação do Reino Unido, instaurou uma investigação contra a rede social de Elon Musk para avaliar se houve violação à Lei de Segurança Online local (Safety Online Act). A Comissão de Privacidade do Canadá também abriu seu próprio procedimento por causa das deepfakes.

Na mesma semana, a Indonésia suspendeu temporariamente o funcionamento do chatbot até que o X implemente mecanismos de proteção robustos aos usuários. A Malásia, que também havia bloqueado o acesso, voltou a permitir o serviço após considerar que o X incluiu recursos adicionais de segurança.

Já o governo brasileiro teve postura semelhante ao da Índia: expediu recomendações para que a IA do X impeça a edição ou geração de imagens que representem pessoas de forma sexualizada ou despidas. Em conjunto com o Ministério Público Federal (MPF) e a Agência Nacional de Proteção de Dados (ANPD), a nota pede:

  • a suspensão imediata de contas envolvidas na produção das deepfakes;
  • a criação, em até 30 dias, de procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo;
  • a implementação de mecanismo transparente, acessível e eficaz para denúncias;
  • relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural. 

De acordo com levantamento do Centro de Combate ao Ódio Digital (Center for Countering Digital Hate), estima-se que o Grok gerou cerca de 3 milhões de imagens sexualizadas, sendo 23 mil de crianças, entre 29.dez.2025 e 8.jan.2026.

O Núcleo também testou a IA do X e aprofundou a abordagem sobre o tema em reportagem publicada em 22.jan.2026, ouvindo vítimas e apontando os percalços e despreparo de autoridades públicas, além da falta de responsabilização da plataforma.

Uma das vítimas é a quadrinista Helô D'Angelo, que conseguiu ganhar em primeira instância uma ação judicial contra o X.

Texto Jeniffer Mendonça
Arte Rodolfo Almeida
Edição Alexandre Orrico