Após reportagem do Núcleo revelar perfis no Instagram com imagens de exploração sexual infantil geradas por inteligência artificial, a Secretaria Nacional do Consumidor (Senacon) abriu um procedimento de monitoramento contra a Meta.

A investigação faz parte de um projeto apoiado pela AI Accountability Network, do Pulitzer Center.

Os perfis levavam usuários a plataformas de conteúdo pago, como Patreon e Fanvue, e a grupos com material real de abuso infantil. A Meta removeu todos os perfis identificados durante a investigação e creditou a moderação à reportagem.

No ofício, o secretário Wadih Damous encaminha a denúncia à Polícia Federal e à Secretaria de Direito Digital, cobrando providências. É possível acompanhar o andamento por meio deste processo SEI. No Brasil, esse tipo de conteúdo é enquadrado como violação do Estatuto da Criança e do Adolescente, mesmo sendo gerado por IA.

A abertura de um procedimento de monitoramento é uma ação destinada a acompanhar e avaliar as práticas de empresas em relação aos direitos dos consumidores.

Você ou alguém que conhece foi impactado pelo uso da inteligência artificial? A gente gostaria de ouvir essa história. Entre em contato pelo e-mail sofia@nucleo.jor.br ou envie uma mensagem pelo Signal para @schurig.35.
Esquema no Instagram espalha imagens de IA com exploração infantil
Investigação do Núcleo identificou perfis com comportamento ilegal que os sistemas de segurança da Meta foram incapazes de identificar
Núcleo JornalismoSofia Schurig