STJ investiga tentativa de manipulação de IA para fraudar processos

O Superior Tribunal de Justiça abriu investigação para apurar o uso de comandos de inteligência artificial, conhecidos como prompts, para tentar manipular o sistema de IA do tribunal.

A suspeita é de que as tentativas de fraude no STJ Logos, sistema de IA generativa, tenham sido cometidas por advogados e escritórios de advocacia.

Para investigar o caso, foram abertos um inquérito policial e um procedimento administrativo interno, por determinação do presidente do STJ, ministro Herman Benjamin.

A medida foi tomada após técnicos da Corte identificarem a entrada de petições com prompt injection, uma técnica usada para enganar modelos de IA.

O usuário tenta inserir instruções maliciosas no meio de uma petição ou recurso para forçar o sistema a ignorar regras de análise e, assim, favorecer uma das partes do processo.

O ministro Herman Benjamin afirmou que o STJ Logos foi desenvolvido com comandos específicos que impedem esse tipo de artimanha.

Segundo ele, o tribunal agora está mapeando todas as tentativas de fraude para apurar as responsabilidades e punir os envolvidos.