O Comitê Gestor da Internet no Brasil (CGI.br) manifestou preocupação com a geração de imagens de exploração sexual de mulheres, crianças e adolescentes por sistemas de inteligência artificial generativa.
Em nota publicada em 30.jun.2025, o CGI.br lembrou que o Brasil já possui legislação para lidar com esses crimes — como o Marco Civil da Internet, a Lei Geral de Proteção de Dados e o Estatuto da Criança e do Adolescente —, mas pediu ações mais firmes de fiscalização e punição.
RECOMENDAÇÕES. A instituição cobrou que empresas de IA, lojas de aplicativos e plataformas digitais atuem de forma proativa para coibir esses conteúdos. Entre as recomendações estão:
- criar políticas de moderação mais rigorosas, com banimento de serviços, práticas e usuários que violem a segurança e os direitos de mulheres, crianças e adolescentes;
- desenvolver ferramentas de IA generativa com critérios claros sobre o uso de dados pessoais, bancos de imagens e modelos algorítmicos, prevenindo a difusão de conteúdos de violência sexual, discriminação e abuso contra grupos vulneráveis.
LEIA. Desde nov.2024, em parceria com a AI Accountability Network do Pulitzer Center, o Núcleo publica uma série de investigações sobre o uso da IA para criação de conteúdos criminosos envolvendo crianças. Você pode ler todas as reportagens aqui.
