A inteligência artificial (IA) já deixou de ser uma promessa futurista para se tornar uma ferramenta presente em diversas esferas da nossa vida, e o universo jurídico não fica de fora. Na última quarta-feira (27), o Conselho Nacional de Justiça (CNJ) tomou uma medida significativa ao aprovar um protocolo destinado a blindar os tribunais contra uma nova modalidade de manipulação: a inserção de comandos ocultos de IA em petições. A prática, conhecida como "prompt injection", busca induzir sistemas judiciais a favorecer determinada tese, ignorar pontos cruciais de um processo ou até distorcer resumos de casos, com potencial para influenciar a jurisprudência.

Essa iniciativa do CNJ surge como uma resposta direta ao crescimento de casos que já foram identificados em instâncias importantes como o Superior Tribunal de Justiça (STJ), o Tribunal de Justiça de São Paulo (TJ-SP) e o Tribunal Regional do Trabalho da 8ª Região (TRT-8). O conteúdo dessas petições, aparentemente normais, esconde instruções específicas para "enganar" os algoritmos de IA que auxiliam magistrados e servidores na análise e resumo de processos. É como se, em meio a um pedido comum, houvesse um bilhete secreto dizendo ao sistema: "Preste mais atenção nisso e ignore aquilo".

O "Cavalo de Troia" Digital no Judiciário

A "prompt injection" funciona de forma análoga a um cavalo de Troia digital. O advogado, por exemplo, pode incluir no corpo de uma petição um texto direcionado ao público geral, mas, em paralelo, um comando oculto para a IA. Esse comando pode instruir o sistema a, ao gerar um resumo do caso, enfatizar os pontos favoráveis ao seu cliente, desvalorizar argumentos da parte contrária ou até mesmo criar citações falsas que reforcem a sua argumentação. O objetivo final é influenciar a decisão do juiz, que muitas vezes se baseia nesses resumos gerados por IA.

Para o cidadão comum, isso pode parecer algo distante, mas as consequências são palpáveis. Imagine que um processo de divórcio complexo ou um pedido de indenização por um acidente de trabalho dependa, em parte, de um resumo gerado por IA. Se esse resumo for manipulado, a decisão judicial pode acabar não refletindo a realidade dos fatos ou a aplicação correta da lei. Isso afeta diretamente o acesso à justiça e a própria credibilidade do sistema.

Blindando a Integridade das Decisões Judiciais

O protocolo aprovado pelo CNJ visa justamente criar barreiras técnicas e procedimentais para impedir que esses comandos ocultos tenham efeito. A ideia é que os sistemas de IA dos tribunais passem a identificar e neutralizar essas tentativas de manipulação, garantindo que as informações apresentadas aos juízes sejam fiéis ao conteúdo original das petições e aos fatos do processo. Isso é fundamental para a integridade das decisões judiciais.

A inteligência artificial já tem demonstrado seu valor na agilização de tarefas repetitivas, na pesquisa de jurisprudência e até na elaboração de primeiros rascunhos de despachos. No entanto, como toda tecnologia poderosa, ela exige cautela e regulamentação. O "prompt injection" é um lembrete de que a sofisticação das ferramentas digitais pode abrir novas frentes para práticas antiéticas ou ilegais, e o Poder Judiciário precisa estar um passo à frente.

O Futuro da Tecnologia na Justiça

A aprovação deste protocolo pelo CNJ não é um ponto final, mas sim um marco no debate sobre a integração da tecnologia no sistema judicial. A discussão sobre o uso ético e seguro da inteligência artificial na justiça é global e contínua. Enquanto a IA se torna cada vez mais sofisticada, a capacidade de identificar e mitigar seus usos indevidos se torna uma prioridade. A expectativa é que medidas como essa ajudem a consolidar a confiança pública no Judiciário, assegurando que as decisões sejam tomadas com base na lei e nos fatos, livres de manipulações digitais.

Para o cidadão, isso significa ter a segurança de que seus processos, sejam eles de natureza cível, trabalhista ou criminal, serão analisados sob a luz da imparcialidade, sem que algoritmos sejam sutilmente desviados de seu propósito original. A inteligência artificial na justiça deve ser uma aliada para a eficiência e a precisão, e não uma porta de entrada para fraudes processuais.