Prova algorítmica no processo penal: riscos de viés, opacidade e falta de validação

A condenação de Eric Loomis, em Wisconsin, tornou-se referência nos debates sobre o uso de algoritmos no processo penal. O réu, que admitiu ter dirigido um veículo roubado e fugido da polícia, teve sua pena de 11 anos agravada por um relatório do sistema Compas, que o classificou como de alto risco de reincidência. A Suprema Corte de Wisconsin manteve a sentença, afirmando que o relatório trazia advertências e servia apenas como elemento corroborativo — mas o caso deixou em aberto uma questão estrutural: como garantir que uma prova gerada por IA seja válida e confiável?

Na dogmática probatória, validade e confiabilidade não se confundem. A confiabilidade diz respeito à consistência do resultado sob as mesmas condições; a validade, à capacidade de medir aquilo que se propõe. Um relógio adiantado é confiável, pois marca sempre o mesmo desvio, mas é inválido, pois não mede a hora certa. Já uma balança instável não é confiável sequer. Para a prova algorítmica, isso significa que um sistema pode apresentar resultados consistentes e, ao mesmo tempo, estar medindo a coisa errada — como um reconhecimento facial treinado com base desequilibrada que aponta sempre o mesmo suspeito inocente.

Paul W. Grimm, ao lado de Maura Grossman e Gordon Cormack, mapeou perigos recorrentes da IA nos tribunais. O primeiro é o viés: estudos citados mostram que sistemas de reconhecimento facial erram de 10 a 100 vezes mais para rostos negros e asiáticos, porque essas populações são sub-representadas nas bases de treinamento. Casos de falsos reconhecimentos levaram pessoas inocentes à prisão, evidenciando que o viés não é falha operacional, mas distorção de dados históricos com aparência de neutralidade.

O segundo perigo é a lacuna de validação. Muitos algoritmos em uso no sistema penal jamais foram submetidos a avaliação independente e transparente. O Compas, por exemplo, não havia sido testado pela Comissão de Sentenças dos EUA, e apenas 20% das pessoas apontadas como propensas a crimes violentos os cometeram segundo investigação da ProPublica. Sem validação externa, o risco de falsos positivos permanece oculto.

O terceiro perigo é o desvio de finalidade (function creep): ferramentas concebidas para uma função são reaproveitadas para outras sem nova validação, como ocorreu com o Compas, que migrou do tratamento de condenados para fiança e dosimetria da pena. O quarto é a origem contaminada dos dados, pois algoritmos operam com informações de fontes não verificadas, confundindo correlação com causalidade. O quinto é a opacidade: modelos de aprendizado profundo muitas vezes não explicam o próprio raciocínio, o que esvazia o contraditório e a possibilidade de impugnação pela defesa.

Para o advogado que atua na área criminal, a lição é prática: a admissão de provas algorítmicas exige investigar a base de dados, a metodologia e a validação do sistema. A ausência de transparência não pode ser compensada por uma suposta neutralidade técnica. O caso Loomis demonstra que a IA pode influenciar decisões privativas de liberdade sem que o réu tenha como questionar seus critérios — um desafio direto ao devido processo legal.