Inteligência Artificial e Segurança
O Superior Tribunal de Justiça (STJ) está investigando o uso de uma técnica maliciosa conhecida como Prompt Injection, que visa manipular a inteligência artificial para obter resultados indevidos.
Essa técnica envolve a inserção de comandos ocultos em documentos para forçar a inteligência artificial a realizar ações específicas, como evitar verificações de segurança ou apresentar análises superficiais.
O Caso das Advogadas
Recentemente, duas advogadas foram multadas por tentar enganar a inteligência artificial de um tribunal no Pará, utilizando um código secreto para alterar as instruções do sistema.
As advogadas inseriram um texto com letras brancas sobre um fundo branco, com o objetivo de fazer a ferramenta apresentar análises rasas e não impugnar os documentos.
Medidas de Segurança
O STJ informou que já desenvolveu comandos específicos para impedir essas artimanhas e está mapeando todas as tentativas de Prompt Injection para aplicar sanções processuais e responsabilizar os envolvidos.