O X afirmou, em publicação na rede social, que irá suspender permanentemente contas que utilizarem a inteligência artificial Grok para criar conteúdos ilegais. O posicionamento ocorreu após a ferramenta ser usada para gerar imagens sexualizadas sem consentimento, o que provocou repercussão negativa e levou autoridades de diferentes países a abrirem investigações.
Em publicações no X, o perfil oficial de segurança (@Safety) e Elon Musk afirmaram que o uso do Grok para gerar conteúdo ilegal terá as mesmas punições aplicadas a uploads ilícitos na plataforma, incluindo remoção de materiais, suspensão de contas e acionamento das autoridades.
Apesar do anúncio, muitos usuários demonstraram ceticismo e questionaram por que o X não adota filtros mais rígidos para bloquear a criação de conteúdo ilegal desde a origem, prática já presente em outras ferramentas de IA. A polêmica, inclusive, levou autoridades do Brasil, França, Malásia e Índia a abrir investigações sobre a plataforma e a tecnologia.
No Brasil, a deputada federal Erika Hilton acionou o Ministério Público Federal e a Autoridade Nacional de Proteção de Dados (ANPD), solicitando a desativação da ferramenta no país enquanto os riscos não forem mitigados.
A controvérsia teve início após o lançamento de uma ferramenta de edição de imagens do Grok integrada ao X. Alguns usuários solicitaram que a IA inserisse biquínis e poses sexualizadas em fotos de outras pessoas, sem consentimento.
A ferramenta atendeu aos pedidos, gerando deepfakes de mulheres adultas e, em casos mais graves, de meninas menores de idade, o que motivou denúncias à plataforma e a órgãos governamentais.
Questionado por usuários, o próprio Grok chegou a gerar respostas com pedidos de desculpas e classificando o episódio como uma falha de segurança.
VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade?