Algoritmos, reincidência e o Direito Penal

Algoritmos, reincidência e o Direito Penal

Por MARCELO CRESPO. Publicado originalmente em http://esdp.net.br/algoritmos-reincidencia-e-o-direito-penal/ no dia 22.11.16

É inegável que a tecnologia está cada vez mais presente em nosso cotidiano e que é impossível frear sua utilização na sociedade.

No entanto, há algumas situações que devem ser analisadas com muito cuidado, especialmente as que envolvem substituição de decisões humanas por computadorizadas. Vamos ilustrar com um caso bastante específico ocorrido nos Estados Unidos.

Em julho a Suprema Corte de Winsconsin julgou recurso de Eric Loomis, que pretendia a reforma de sentença de instância inferior que o condenou e, para tanto, fez uso de um software – o COMPAS – para pontuá-lo e ranqueá-lo como possível reincidente criminal. Loomis argumentou que não teve acesso às fórmulas matemáticas utilizadas pelo software e que, por isso, não poderia contestar seus resultados, violando assim, seu direito de defesa. Isso porque a Northpointe, Inc. empresa responsável pelo software mantém sob forte sigilo o sistema de pontuação.

A Corte, no entanto, denegou o recurso de Loomis e autorizou o uso da tecnologia. Apesar de determinar que os magistrados não tomem suas decisões exclusivamente com base nos números apresentados pelo software, a decisão foi polêmica mesmo lá, e demanda algumas linhas à titulo de considerações.

O software COMPAS se destina a ranquear acusados, indicando sua probabilidade de reincidência. A base de dados é nacional, analisando pessoas em situações semelhantes. O software não indica a probabilidade específica de um acusado, fornecendo uma análise geral, fundada em pessoas com dados semelhantes. Verifica-se que tal análise pretende fornecer “argumentos objetivos” para evitar decisões baseadas em mera intuição, preconceitos ou limitações cognitivas.

No caso específico de Winsconsin o argumento do réu, utilizado para buscar a reforma da sentença, foi desconsiderado na medida em que aquela Corte entendeu que a sentença se baseou em outros fatores, incluindo, mas não de forma exclusiva, a utilização do COMPAS.

A Corte, no entanto, deixou registrada a sua preocupação relativa à precisão do sistema, apesar de estudos feitos em Nova Iorque terem demonstrado a eficácia e a precisão preditiva das pontuações. Registrou-se, ainda, a preocupação de que o software poderia classificar de forma desproporcional infratores integrantes de grupos minoritários ou específicos, colocando-os em situação de risco maior do que, por exemplo, pessoas brancas. Abriu-se aí uma gigantesca porta para questionar o próprio algoritmo e, ainda, a possibilidade de vícios ocultos no software.

Por tais razões aquela Corte determinou que em análises futuras as pontuações não poderiam ser fator determinante para decidir se o acusado pode ou não obter sua liberdade. Ademais, determinou que todos os juízes, antes de qualquer condenação, sejam advertidos de que há sigilo na formula algorítmica que analisa os riscos submetidos ao software; que a avaliação de risco feita pelo software compara os acusados em um patamar nacional, inexistindo estudos específicos para Winsconsin; que pode haver classificações desproporcionais quando a análise de risco trata de infratores pertencentes a grupos minoritários; e, que as ferramentas de análise de risco devem ser constantemente monitoradas para que forneçam informações precisam e coerentes com as alterações populacionais.

Sabemos que no Brasil o sistema penal impede (ou deveria impedir) que as pessoas sejam julgadas por quem são, mas pelo que fizeram. Trata-se da regra da responsabilização penal pelos fatos, não pela pessoa. Evita-se, assim, um direito penal de autor, embora lamentavelmente, na prática, vejamos desvios nesta regra tão evidente. Então, não se está aqui a defender o uso do software no Brasil, mas é urgente que discussões como as postas na Suprema Corte de Winsconsin sejam debatidas porque a tecnologia simplesmente atropela nossos usos e costumes. Ainda mais em tempos disruptivos.

Então é preciso considerar que nós, humanos, tendemos a confiar em decisões geradas por computadores muito mais do que deveríamos. Isso porque dependemos absurdamente

da tecnologia, até mesmo para constatar, reparar e auditar vícios sistêmicos. Assim, somos inclinados a seguir recomendações automatizadas. A generalização do uso da tecnologia, em nosso sentir, parece transformar decisões computadorizadas em uma decisão, ao final, autorizada.

Resta-nos, assim, indagar o que deve ser feito sobre isso, já que auditorias nos algoritmos não serão facilmente realizadas. Afinal, em muitos casos o sucesso de um serviço decorre justamente da complexidade dos algoritmos utilizados e, por tal razão, não serão abertos pelas empresas.

Fato é que os algoritmos são construídos com fundamentos de correlações e, por isso, são extremamente dinâmicos, algo incompatível com a estática processual. Então é fundamental discutir e pensar criticamente sobre possíveis “arbitrariedades algorítmicas”, ainda que com algum respaldo de decisões humanas.

E insistimos, embora no Brasil o sistema penal não permita o uso de software como este em razão das acusações serem fundadas em fatos e não em históricos pessoais, o assunto é urgente porque está rapidamente sendo amplamente utilizado em outros países. Hora mais, hora menos, estaremos diante de um software assim aqui no país. Salve-se quem puder.