Controlando riscos : a construção dos algoritmos de avaliação de risco no Sistema de Justiça Criminal dos EUA

Abstract

Devido a críticas ao sistema de fiança e ao enviesamento das instituições do sistema de justiça criminal, o uso de algoritmos de avaliação de risco tem se intensificado nos últimos anos em diversas jurisdições estadunidenses com a justificativa de serem mais neutros e mais justos. Porém, grupos da sociedade civil vêm denunciando o enviesamento dessas ferramentas. Assim, esse trabalho procura analisar a construção dos algoritmos de avaliação de risco atualmente em uso nos Estados Unidos da América, buscando responder a seguinte pergunta: esses algoritmos são, de fato, neutros e menos enviesados? Para tanto, a partir da abordagem de métodos mistos, pelo modelo de triangulação simultânea, a pesquisa se focou em três aspectos: 1) análise de questionários de 24 ferramentas utilizados para coletar informações de indivíduos sob supervisão do Sistema de Justiça Criminal e que definirão, por sua vez, os fatores de risco; 2) análise dos fatores de risco utilizados por 55 ferramentas pré-julgamento (pretrial) para definição do escore final de risco de não comparecimento no tribunal, fuga ou reincidência; 3) análise de regressão de três escalas (risco de não comparecimento ao tribunal, risco de reincidência e risco de reincidência de forma violenta) do software COMPAS, da empresa equivant, aferido no condado de Broward entre os anos de 2013 e 2014, de modo a verificar os marcadores sociais — raça, gênero, entre outros — presentes na definição de risco dos réus. Como base teórica, me aproprio de discussões da área de STS (Science and Technology Studies) que trazem contribuições para as discussões da Sociologia da Violência e da Conflitualidade. Sendo assim, essa pesquisa traz elementos de ambas as áreas para entender e analisar o problema proposto. A pesquisa apresentou como resultado que embora essas ferramentas busquem ser mais justas que o sistema de fiança (bail system) e menos enviesadas que a discricionariedade de juízes, de forma a serem mais objetivas e neutras, embutem, desde a sua concepção, as falhas do sistema criminal e mecanismos de penalização de pessoas que já estão à margem da sociedade, criminalizando assim a pobreza, o que nos EUA é também um proxy de raça. Conclui-se que as ferramentas além de não serem neutras e menos enviesadas reproduzem e complexificam os vieses do próprio sistema penal.

Given the criticism of the bail system and of the bias of the criminal justice system institutions, the use of risk assessment algorithms has increased over the last few years in several jurisdictions in the United States, explained by the notion that they are more neutral and fairer. However, groups of the civil society have been denouncing the bias of these tools. For this reason, this work aims to analyze the development of risk assessment algorithms at use currently in the United States of America, seeking to answer the following question: are these algorithms indeed neutral and less biased? To do so, the research focused on three aspects, stemming from the mixed methods approach, through the simultaneous triangulation model: 1) analysis of forms of 24 tools used to collect information of individuals under the supervision of the Criminal Justice System and that will define, in turn, the risk factors; 2) analysis of the risk factors used by 55 pretrial tools for the definition of the final risk score of failure to appear (in court), flight or recidivism; 3) regression analysis of three scales — risk of failure to appear (in court), risk of recidivism, and risk of violence — of COMPAS software by equivant, measured in Broward county between 2013 and 2014 in order to verify the social markers - race, gender, among others - included in the definition of risk of the defendants. As the theoretical basis for the research I take up discussions in the field of STS (Science and Technology Studies) that contribute to debates on Sociology of Violence and Crime. That being so, this research brings elements from both fields to understand and analyze the proposed problem. The research presented as a result that although these tools seek to be fairer than the bail system and less biased than the judges discretion, with the goal of being more objective and neutral, they insert from their inception the flaws of the criminal system and the punishment mechanisms for people who are already at the margins of society, thereby criminalizing poverty, which in the USA is also a proxy for race. We conclude that the tools are not only not neutral and less biased but also reproduce and complexify the biases of the penal system itself.