Viés algorítmico e discriminação : possíveis soluções regulatórias para o Brasil

Abstract

Os algoritmos formam a estrutura lógica de funcionamento de programas de computador e atualmente compõem sistemas de inteligência artificial (IA) de aplicação ampla na sociedade. Porém, algoritmos enviesados representam sérios riscos de discriminação para seus usuários, que podem produzir e/ou amplificar situações de racismo, sexismo, ou mesmo violações de direitos do consumidor, dentre outras. Por exemplo, existem sistemas de reconhecimento facial que consideram que pessoas não-brancas tem maior chance de reincidência criminal, a partir da análise do tom de pele. Com a disseminação de ferramentas de IA cada vez mais sofisticadas, a sociedade demandará respostas institucionais para os problemas causados pela discriminação algorítmica. Neste cenário, os operadores do Direito precisam identificar o método mais eficaz de concretizar o mandamento presente no Art. 3º da Constituição, que elenca a não-discriminação como um objetivo fundamental do Estado. Considerando que o Brasil não dispõe de uma política pública especificamente voltada para este tema, este trabalho busca identificar maneiras de proporcionar eficácia ao texto constitucional e garantir a nãodiscriminação no uso da IA. Assim, a pesquisa tem por objetivo entender se e, em caso positivo, como o Direito brasileiro lida com os casos de discriminação causados pelo uso de algoritmos enviesados, especialmente em relação à (desobrigação de) revisão humana de decisões automatizadas. Deste modo, este trabalho analisa o sistema regulatório vigente para identificar eventuais insuficiências normativas. Para atingir este objetivo é adotada metodologia de caráter exploratório-dedutivo, por meio da análise e revisão da literatura científica a respeito do tema, além dos dispositivos institucionais aplicáveis (legislação e jurisprudência). Por fim, a conclusão apresenta a regulação da IA enquanto possível estratégia para oferecer condições que possam promover a eficácia das normas constitucionais e restringir práticas discriminatórias. O argumento final parte do pressuposto de que a revisão humana de decisões automatizadas é talvez a melhor ferramenta disponível neste momento para combater a discriminação algorítmica.

Algorithms make up the logical structure of computer’s software functioning and currently compose artificial intelligence (AI) systems of wide application in society. However, biased algorithms represent serious risks of discrimination for their users, which can produce and / or amplify situations of racism, sexism, or even violations of consumer rights, among others. For instance, there are facial recognition systems that consider that non-white people have a greater chance of criminal recidivism, based on the analysis of skin tone. With the spread of increasingly sophisticated AI tools, society will demand institutional responses to the problems caused by algorithmic discrimination. In this scenario, legal operators will need to identify the most effective method of implementing the mandate contained in Article 3 of the Brazilian Federal Constitution, which lists non-discrimination as a fundamental objective of the State. Considering that Brazil does not have a public policy specifically focused on this topic, this paper seeks to answer the question of how to make the constitutional text effective and ensure non-discrimination in the use of AI. Thus, the research aims to understand whether and, if so, how Brazilian law deals with cases of discrimination caused by the use of biased algorithms, especially in relation to the (legal release from) human review of automated decisions.In this way, this work analyzes the current regulatory system to identify any regulatory insufficiencies. To achieve this objective, an exploratory-deductive methodology is adopted, through the analysis and review of the scientific literature on the subject, in addition to the applicable institutional provisions (legislation and jurisprudence). Finally, the conclusion presents the regulation of AI as a possible strategy to offer conditions that can promote the effectiveness of constitutional norms and restrict discriminatory practices. The final argument is based on the assumption that the human review of automated decisions is perhaps the best tool available at this time to combat algorithmic discrimination.