Prompt Injection, Inteligência Artificial e o Paradoxo do Poder Judiciário: Quem Fiscaliza o Fiscal?

Introdução

A crescente utilização de ferramentas de Inteligência Artificial (IA) no ambiente jurídico inaugurou uma nova fase da atividade jurisdicional brasileira. Ao mesmo tempo em que tribunais e magistrados incorporam sistemas algorítmicos para pesquisa jurisprudencial, triagem processual, elaboração de minutas e até apoio à fundamentação de decisões, observa-se um movimento rigoroso de fiscalização sobre o uso dessas mesmas tecnologias por advogados e jurisdicionados.

Recentemente, diversos tribunais passaram a advertir e até sancionar profissionais em razão da utilização inadequada de ferramentas de IA, especialmente em situações envolvendo as chamadas "alucinações" algorítmicas e técnicas conhecidas como "prompt injection". Embora seja legítima a preocupação com a integridade do processo judicial, surge uma questão fundamental: por que o mesmo rigor não é aplicado quando o próprio Poder Judiciário utiliza Inteligência Artificial?

A resposta revela um preocupante desequilíbrio institucional e constitucional.

O que é Prompt Injection?

Prompt injection consiste na manipulação deliberada das instruções fornecidas a um sistema de Inteligência Artificial com o objetivo de influenciar, alterar ou contornar suas respostas e mecanismos de controle.

No ambiente jurídico, a preocupação surge quando usuários tentam induzir sistemas de IA a produzir resultados enganosos, tendenciosos ou incompatíveis com os parâmetros originalmente estabelecidos.

Contudo, é importante destacar que o simples uso de técnicas avançadas de interação com IA não configura, por si só, qualquer irregularidade. A ilicitude surge apenas quando há dolo, fraude processual ou tentativa de induzir o julgador a erro.

O problema reside no fato de que o debate público vem concentrando esforços quase exclusivamente na conduta dos advogados, enquanto permanece praticamente silencioso quanto aos riscos decorrentes da utilização de IA pelos próprios órgãos jurisdicionais.

A Assimetria de Responsabilização

Atualmente, um advogado que protocola uma petição contendo precedentes inexistentes gerados por IA pode sofrer sanções processuais, éticas e disciplinares.

Entretanto, quando um tribunal utiliza sistemas automatizados para sugerir fundamentações, identificar precedentes ou auxiliar na elaboração de decisões, raramente existe transparência suficiente para que as partes saibam:

• Se houve utilização de IA;

• Qual sistema foi empregado;

• Quais dados alimentaram o sistema;

• Quais critérios foram utilizados;

• Qual foi o grau de influência da ferramenta na decisão judicial.

Em outras palavras, exige-se transparência absoluta do jurisdicionado, mas admite-se opacidade institucional do Estado.

Essa situação afronta diretamente princípios estruturantes do Estado Democrático de Direito, especialmente os da publicidade, da motivação das decisões judiciais e da prestação de contas dos agentes públicos.

A Violação ao Artigo 93, IX, da Constituição Federal

O artigo 93, inciso IX, da Constituição Federal estabelece:

"Todos os julgamentos dos órgãos do Poder Judiciário serão públicos, e fundamentadas todas as decisões, sob pena de nulidade."

A exigência constitucional de fundamentação não representa mera formalidade.

Ela possui pelo menos três finalidades essenciais:

1. Permitir o controle pelas partes;

2. Possibilitar o exercício do contraditório;

3. Viabilizar a revisão da decisão pelas instâncias superiores.

Quando uma decisão judicial é influenciada, ainda que parcialmente, por um sistema de Inteligência Artificial cujo funcionamento é desconhecido pelas partes, surge um sério problema constitucional.

Como impugnar uma fundamentação produzida por um algoritmo cujo raciocínio não é acessível?

Como exercer o contraditório sobre uma cadeia decisória parcialmente automatizada?

Como verificar eventual viés, erro estatístico ou seleção inadequada de precedentes?

A utilização de sistemas de IA que funcionam como verdadeiras "caixas-pretas" cria uma situação incompatível com a exigência constitucional de motivação explícita e verificável.

Uma decisão não pode ser considerada plenamente fundamentada quando parte relevante de sua construção intelectual decorre de processos inacessíveis ao controle das partes.

A Crise da Fundamentação Automatizada

O Código de Processo Civil de 2015 buscou elevar o padrão de fundamentação judicial.

O artigo 489, §1º, exige que o magistrado enfrente todos os argumentos relevantes apresentados pelas partes e apresente razões concretas para a conclusão adotada.

Todavia, a utilização indiscriminada de sistemas de IA pode gerar justamente o fenômeno contrário: decisões aparentemente fundamentadas, mas materialmente vazias.

A linguagem sofisticada produzida por modelos generativos pode criar uma ilusão de profundidade argumentativa, mascarando raciocínios superficiais, omissões ou até erros de interpretação jurídica.

A consequência é a substituição da fundamentação substancial por uma fundamentação meramente estética.

Quem Fiscaliza a Inteligência Artificial do Judiciário?

A discussão sobre governança algorítmica normalmente enfatiza a fiscalização do cidadão e dos advogados.

Entretanto, em um regime democrático, o principal destinatário dos mecanismos de controle deve ser o próprio Estado.

Se um advogado utiliza IA para redigir uma petição, o documento está sujeito ao contraditório, à impugnação da parte adversa e à análise do magistrado.

Já quando o Judiciário utiliza IA internamente, muitas vezes inexistem mecanismos equivalentes de fiscalização.

Esse cenário produz uma inversão preocupante:

• O cidadão é transparente perante o Estado.

• O Estado permanece opaco perante o cidadão.

Tal lógica é incompatível com os princípios republicanos.

O Risco da Delegação Cognitiva da Jurisdição

Outro aspecto frequentemente negligenciado é o risco da chamada delegação cognitiva.

Ainda que a decisão formal permaneça sendo assinada por um magistrado, a crescente dependência de sistemas automatizados pode reduzir progressivamente o papel humano na construção do convencimento judicial.

A jurisdição é uma atividade essencialmente humana.

Julgar não consiste apenas em selecionar precedentes ou aplicar padrões estatísticos.

Julgar exige ponderação de princípios, análise de contextos sociais, compreensão de circunstâncias específicas e exercício de responsabilidade institucional.

Nenhum algoritmo possui legitimidade democrática para substituir essas funções.

A Constituição Federal atribui o poder jurisdicional a juízes investidos regularmente no cargo, e não a sistemas computacionais.

Conclusão

O debate sobre Inteligência Artificial no Poder Judiciário não pode ser conduzido sob uma lógica de mão única.

Se advogados e jurisdicionados podem ser responsabilizados pelo uso inadequado de IA, é igualmente necessário exigir transparência, auditabilidade e prestação de contas quando a tecnologia é utilizada pelo próprio Estado.

A proteção da integridade do processo não será alcançada por meio da criminalização tecnológica dos usuários, mas pela construção de regras simétricas de responsabilização.

Caso contrário, corre-se o risco de consolidar um modelo em que o cidadão é permanentemente fiscalizado por algoritmos, enquanto os algoritmos utilizados pelo Estado permanecem imunes à fiscalização do cidadão.

Em um Estado Democrático de Direito, a pergunta central não é apenas como controlar a Inteligência Artificial dos advogados.

A pergunta verdadeiramente constitucional é: quem controla a Inteligência Artificial dos juízes?