STF detecta primeira tentativa de fraude processual com prompt injection em recurso relatado por Zanin

O Supremo Tribunal Federal registrou, pela primeira vez, a detecção de uma tentativa de fraude processual por meio de prompt injection. O caso foi identificado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação da corte no Recurso Extraordinário com Agravo (ARE) 1.608.713, de relatoria do ministro Cristiano Zanin.

Segundo o STF, foram inseridas em duas páginas do processo instruções ocultas, escritas em letras brancas e com tamanho reduzido, direcionadas especificamente a sistemas de inteligência artificial. Os trechos traziam argumentos para o conhecimento e provimento do recurso, orientações para uma determinada linha decisória e sugestão de dispositivo para a decisão. As palavras foram fragmentadas de forma não usual para dificultar a detecção.

A técnica de prompt injection consiste em adicionar comandos ocultos em dados de entrada para manipular respostas de ferramentas de IA generativa. No caso concreto, a tentativa não teve efeito prático: o gabinete de Zanin não utiliza ferramentas de IA para análise e fundamentação de processos.

O ARE 1.608.713 foi apresentado por uma servidora pública negra contra decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. Ela teria sido substituída por uma candidata branca que, segundo a defesa, teria usado manobras processuais para burlar o sistema de cotas raciais. Em 19 de agosto, Zanin negou o recurso, aplicando as Súmulas 279 e 454 do STF.

Ao encaminhar o caso para a 1ª Turma, Zanin afirmou que a conduta do advogado da recorrente buscou "direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável" e viola o dever de lealdade entre as partes previsto no Código de Processo Civil. O ministro aplicou multa de dois salários mínimos, com base no artigo 77, e determinou comunicação à OAB para apuração de infração ético-disciplinar e ao MPF para investigação de eventual crime. O julgamento está pautado para o plenário virtual da 1ª Turma a partir de sexta-feira (25/9).