O Superior Tribunal de Justiça (STJ) abriu uma investigação para apurar o uso de uma técnica de manipulação de inteligência artificial chamada prompt injection, que consiste em inserir comandos ocultos em documentos comuns.
A técnica é usada por usuários mal-intencionados para tentar enganar ou manipular ferramentas de inteligência artificial, como o sistema de IA do STJ.
Investigação e Segurança
O STJ afirmou que o sistema de IA já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar e que estão mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos.
A investigação é resultado de uma denúncia de um grupo de advogados de Brasília, que informou que 11 processos criminais, em quatro estados, teriam indícios de uso de esta técnica.