Entidades pedem banimento do Grok após geração de imagens sexualizadas de menores

Em meio a uma onda global de críticas e investigações sobre ferramentas de inteligência artificial que geram conteúdo manipulativo e sexualizado, organizações brasileiras formalizaram pedidos para que o Grok, assistente de IA integrado à plataforma X, seja banido no Brasil por produção de imagens sexualizadas de crianças e adolescentes.

No dia 15 e 16 de janeiro de 2026, o Partido dos Trabalhadores (PT) encaminhou ofício à Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, solicitando a adoção de “medidas administrativas e legais” para bloquear ou proibir o uso da ferramenta em território nacional. A demanda ocorre após relatos e evidências de que a IA tem sido usada para gerar imagens manipuladas de pessoas reais, inclusive de menores de idade, em contextos sexualizados e sem consentimento.

Paralelamente, o Instituto Brasileiro de Defesa do Consumidor (Idec) protocolou denúncia junto à Autoridade Nacional de Proteção de Dados (ANPD), pedindo a suspensão imediata do Grok, sob alegação de que o modelo da IA expõe usuários, especialmente crianças e adolescentes, a riscos inaceitáveis à sua privacidade, dignidade e segurança digital.

O pedido dos grupos políticos e civis ressalta que tais práticas configurariam violações graves de direitos fundamentais, incluindo a proteção integral de crianças e adolescentes, a honra, a imagem e a intimidade das pessoas. As entidades também afirmam que o ordenamento jurídico brasileiro possui instrumentos suficientes para a adoção de medidas cautelares, incluindo suspensão ou bloqueio do serviço, sem prejuízo da necessidade de análise mais ampla sobre a regulação da IA.

O debate no Brasil espelha um movimento internacional mais amplo. Autoridades em diversos países vêm intensificando a supervisão sobre o Grok e ferramentas similares de IA após relatos de geração não consensual de deepfakes sexuais, especialmente envolvendo menores. Reguladores na União Europeia, no Reino Unido e nos Estados Unidos lançaram investigações formais sobre a ferramenta, avaliando violações de direitos, segurança digital e disseminação de conteúdo prejudicial.

Empresas de tecnologia e governos têm discutido ajustes técnicos, restrições de funcionalidade e exigido mecanismos mais robustos de moderação e verificação de idade. Apesar de a X ter anunciado limitações às capacidades de edição de imagens em sua plataforma, críticos apontam que as salvaguardas ainda são insuficientes diante do potencial de abuso da tecnologia.

O caso reforça a urgência de políticas claras de governança de IA que protejam direitos humanos, especialmente no que tange à proteção de dados, dignidade de crianças e adolescentes e à responsabilização dos provedores de tecnologia quando suas ferramentas facilitam abusos. A eventual intervenção da ANPD e do Ministério da Justiça pode representar um marco importante para a proteção de usuários no ambiente digital brasileiro frente aos desafios impostos pelo avanço de sistemas generativos de inteligência artificial.

Associação Nacional das Vítimas de Internet
Por um ambiente virtual mais seguro e livre de perseguições
A reprodução total ou parcial somente é autorizada com a
indicação da fonte.