Justiça identifica ações com decisões falsas geradas por IA e manda comunicar OAB

O uso inadequado de ferramentas de inteligência artificial em processos judiciais acendeu alerta no Tribunal de Justiça de Mato Grosso do Sul. Em decisões recentes, magistrados identificaram petições com citações de julgamentos inexistentes e apontaram tentativa de induzir o Judiciário ao erro por meio de conteúdos fictícios criados por IA.

Em um dos casos analisados pela 1ª Vara de Bonito, o juiz destacou que houve “utilização deliberada de jurisprudência inexistente”, classificando a conduta como litigância de má-fé. O magistrado ainda determinou comunicação à OAB para possível apuração de infração ética e disciplinar.

A litigância de má-fé ocorre quando uma das partes age de maneira desleal dentro do processo, seja apresentando informações falsas, tentando atrasar a ação ou buscando vantagem indevida. No episódio analisado, decisões supostamente atribuídas ao STJ (Superior Tribunal de Justiça), ao TJSP (Tribunal de Justiça de São Paulo) e ao próprio TJMS foram usadas para sustentar argumentos em uma ação relacionada ao ITCMD, imposto cobrado em casos de herança e doação.

Ao conferir os dados apresentados, o Judiciário constatou que os processos mencionados não existiam ou tratavam de temas totalmente diferentes. Diante da fraude, o juiz rejeitou os argumentos e ressaltou que não há como validar “fundamentação criada por inteligência artificial sem supervisão humana e sem respaldo jurídico real”.

Outro episódio semelhante ocorreu em recurso apresentado por um procurador municipal de Mato Grosso do Sul em ação envolvendo revisão do Plano Diretor de uma prefeitura. O objetivo do recurso era tentar modificar decisão que obrigava o município a atualizar a legislação urbanística.

No entanto, ao analisar o documento, o desembargador José Eduardo Neder Meneghelli identificou referência a um suposto julgamento atribuído a um magistrado que jamais integrou o TJMS. Na decisão, o desembargador afirmou que houve tentativa de enganar o Judiciário por meio de conteúdo fictício aparentemente produzido com auxílio de inteligência artificial.

Além das decisões inventadas, outro tipo de preocupação também tem avançado nos processos judiciais: o chamado “prompt injection”. A prática consiste em inserir comandos ocultos dentro de documentos para influenciar ferramentas de IA que eventualmente façam leitura, resumo ou análise automática das petições.

Levantamento anterior mostrou que um único escritório de advocacia utilizou esse mecanismo em ao menos 28 processos em Mato Grosso do Sul. Especialistas alertam que, caso sistemas automatizados sejam utilizados sem revisão humana, esses comandos podem alterar interpretações e comprometer análises feitas pelo Judiciário.