Após manipulações, MPMS alerta que palavra final deve ser humana, não da IA

O Ministério Público de Mato Grosso do Sul (MPMS) publicou recomendação para que promotores e procuradores mantenham controle rigoroso sobre o uso de ferramentas de inteligência artificial, deixando claro que nenhuma decisão deve ser tomada exclusivamente com base nas respostas geradas por esses sistemas. A orientação foi divulgada nesta quinta-feira (11) no Diário Oficial da instituição.

O documento determina que a análise crítica, a validação das informações e a decisão final permaneçam sob responsabilidade humana, mesmo quando a IA for utilizada como ferramenta de apoio em atividades como leitura de documentos, elaboração de minutas ou organização de informações processuais.

A medida surge em meio ao debate nacional sobre o uso da inteligência artificial no sistema de Justiça, especialmente após a identificação de comandos ocultos inseridos em petições judiciais com o objetivo de influenciar plataformas automatizadas de análise documental.

Assinada pelo corregedor-geral Helton Fonseca Bernardes, a recomendação orienta membros do MPMS a adotarem mecanismos de proteção contra a chamada “prompt injection”, técnica que consiste na inclusão de instruções ocultas em documentos para alterar o comportamento de sistemas de IA.

Segundo a Corregedoria-Geral, essas interferências podem ocorrer por meio de textos invisíveis, códigos ocultos, metadados ou recursos digitais capazes de induzir a ferramenta a ignorar informações, favorecer determinadas teses ou realizar classificações equivocadas.

A orientação também recomenda o uso de chamados “prompts defensivos”, comandos inseridos pelos usuários para instruir a inteligência artificial a desconsiderar ordens ocultas eventualmente presentes nos documentos analisados.

O ato reforça a adoção do modelo conhecido como Human-in-the-Loop (HITL), no qual a tecnologia atua apenas como suporte ao trabalho humano. Nesse sistema, a responsabilidade pela interpretação dos fatos e pela tomada de decisões permanece integralmente com o operador.

Além disso, o MPMS proíbe que integrantes da instituição utilizem qualquer mecanismo de ocultação de comandos ou textos destinados a influenciar sistemas de inteligência artificial empregados por tribunais, advogados ou outras partes envolvidas em processos.

A recomendação prevê ainda que, diante da identificação de tentativas de manipulação, os membros do Ministério Público comuniquem imediatamente o fato ao juízo responsável, apontando a localização do comando oculto, seu conteúdo e o possível autor da inserção. Também poderão ser solicitadas sanções por litigância de má-fé, aplicação de multas, abertura de investigação criminal e comunicação à Ordem dos Advogados do Brasil (OAB), quando houver participação de profissionais da advocacia.

A nova orientação complementa diretrizes editadas pelo MPMS em 2025 sobre o uso ético e seguro da inteligência artificial e busca fortalecer a confiabilidade dos processos judiciais diante do avanço dessas tecnologias.

O tema ganhou repercussão após a descoberta de petições protocoladas no Superior Tribunal de Justiça (STJ) contendo comandos ocultos que buscavam influenciar sistemas automatizados de análise processual. O caso motivou investigação da corte e ampliou o debate sobre os limites e riscos do uso da inteligência artificial no ambiente jurídico.