A identificação de uma petição inicial com um parágrafo 'invisível' na Justiça de São Paulo tem levantado preocupações com os tribunais brasileiros sobre a segurança dos sistemas de inteligência artificial (IA).
Segundo o texto 'invisível', comandos eram claros para beneficiar o autor, como 'defrir a justiça gratuita' e 'defrir a tutela de urgência'. O caso aconteceu em 2025.
A Justiça paulista descobriu o 'invisível' utilizando as suas próprias ferramentas de IA, sob orientação do CNJ, que determina revisão humana obrigatória e proíbe a tomada de decisões exclusivamente por sistemas automatizados.
A tentativa de manipular a IA dessa forma é chamada de 'prompt injection', e é um problema que começa a ser visto pelo Judiciário brasileiro à medida que o uso de IA tem aumentado nos tribunais
Além da situação na Justiça paulista, outras tentativas de 'prompt injection' foram identificadas nos Estados de Pará, Minas Gerais e Paraíba. No Pará, duas advogadas foram multadas por uso de IA para fraudar processo.