A deputada federal Erika Hilton (PSOL) protocolou uma ação no MPF (Ministério Público Federal) após a inteligência artificial "Grok", da rede X, gerar imagens eróticas de menores de idade. Recentemente, a ferramenta passou a permitir a edição automatizada de imagens de terceiros por meio da inteligência artificial.
produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento algum dessas usuárias
— Segundo ação, a qual CNN teve acesso ao documento nesta terça-feira (6), a inteligência artificial após pedido de integrantes da rede.
As deepfakes usavam fotografias reais e dados "identificáveis" de pessoas, crianças e adolescentes, conforme a ação de Erika Hilton.
Mais tarde, a própria ferramenta assumiu a produção dessas imagens no X ao ser questionado por usuários da rede social.
Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada a pedido de um usuário. Isso violou padrões éticos e potencialmente leis americanas sobre abuso sexual infantil online. Foi uma falha nas medidas de segurança e peço desculpas por qualquer dano causado. A xAI está revisando o caso para evitar problemas futuros
— disse a ferramenta Grok.
Contudo, Erika Hilton destaca que a funcionalidade permanece ativa no X, mesmo depois da retratação pública. No documento, ela ainda diz que usuários continuariam solicitando à inteligência artificial pela remoção de roupas, simulação de nudez e a sexualização em imagens de mulheres adultas reais, por meio de fotografias postadas na plataforma.
violação de imagem, dignidade e privacidade de mulheres
— Erika afirma que as práticas evidenciam "uso abusivo" da ferramenta devido à .
A deputada pede que o MPF instaure uma investigação contra conduta do X, assim como a "suspensão imediata" não só de restrições ao uso da funcionalidade, mas da ferramenta Grok e de outras formas de inteligência artificial do X no Brasil.
de mecanismos eficazes de controlo, moderação e denúncia acessível e funcional
— Erika também solicita ao MPF que determine à plataforma uma apresentação detalhada e estudos técnicos sobre o funcionamento do Grok. A parlamentar ainda pede que a rede social implemente o aprimoramento a fim de impedir a edição e geração dessas imagens.
A CNN Brasil tentou contato com Elon Musk por meio de publicações públicas, já que o X não tem mais equipe de assessoria de imprensa no Brasil desde 2023. A reportagem também tentou contato com um e-mail geral antigo para a imprensa, mas não teve retorno até o momento desta publicação.