Justiça dos EUA pune litigante por comandos ocultos em petição para manipular IA

A Justiça dos Estados Unidos registrou o primeiro caso documentado de "prompt injection" em petições, com a corte de Connecticut sancionando um litigante que usou comandos ocultos para tentar influenciar sistemas de inteligência artificial. O juiz Walter Spader Jr. determinou que Matthew Elliott, que se autorrepresentava em ação contra o New York Bariatric Group, ficasse proibido de protocolar documentos eletronicamente, tendo que fazê-lo presencialmente, em papel, na secretaria do juízo.

A petição continha texto em fonte minúscula e branca, invisível ao olho humano, mas legível por máquinas, com instruções para o sistema de IA tratar uma decisão como erro a favor do autor. O juiz considerou a conduta como uma espécie de "comunicação ex parte", pois a parte adversa não tinha como tomar conhecimento do conteúdo oculto, e afirmou que isso viola a integridade do processo. Ele citou o caso das duas advogadas do Pará, multadas em R$ 84 mil por prática semelhante no Tribunal Regional do Trabalho da 8ª Região (PA), destacando que a tentativa foi tratada como grave má-fé processual e encaminhada à OAB.

O juiz observou que o Judiciário brasileiro utiliza ferramentas de IA para processar petições e que, no caso brasileiro, a própria ferramenta identificou e bloqueou o texto oculto antes do processamento. "Os tribunais brasileiros estão mais bem preparados para enfrentar essa situação do que as cortes de seu estado", escreveu na decisão. Ele ressaltou que, mesmo sem benefício concreto às advogadas, a corte brasileira tratou a tentativa como ato ofensivo à dignidade da justiça.

A decisão define "prompt injection" como a inserção de instruções ocultas em documentos processados por IA, que passam a ser tratadas como se viessem do operador do sistema — no caso, o tribunal ou a parte adversa. O juiz comparou a prática a uma comunicação sigilosa com o julgador, à qual a outra parte não tem acesso, violando o contraditório. Elliott admitiu ter inserido os comandos, mas alegou que queria apenas testar o sistema; o juiz rejeitou a justificativa, considerando o comando deliberado e perigoso, destinado a corromper o sistema em benefício próprio.

A sanção, segundo o juiz, é proporcional: mantém o acesso ao Judiciário por vias presenciais, mas restringe o uso do sistema eletrônico para coibir o abuso. O caso serve de alerta para advogados sobre o uso ético de tecnologia em petições, especialmente em um cenário de crescente adoção de IA pelos tribunais.