Inteligência artificial : considerações sobre o racismo algorítmico e o cenário da responsabilidade civil no Brasil

Abstract

O racismo, enquanto prática social enraizada nas sociedades contemporâneas, afeta profundamente as relações de poder e, consequentemente, influencia a forma como as novas tecnologias são criadas e utilizadas. Historicamente, esse fenômeno discriminatório permeou diversas áreas do conhecimento, das ciências biológicas às sociais. Na era digital e com a ascensão da quarta revolução industrial, o racismo e as práticas racistas se adaptaram às novas tecnologias, transpondo as barreiras do mundo físico e refletindo diretamente no desenvolvimento e na implementação de sistemas de inteligência artificial. Esses sistemas, ao reproduzirem preconceitos existentes, podem causar sérios danos às pessoas negras, evidenciando o fenômeno do racismo algorítmico. Diante desse cenário, a presente pesquisa, fundamentada no método dedutivo, utilizando revisão bibliográfica e uma abordagem qualitativa, buscou analisar as teorias atuais de responsabilidade civil no contexto da responsabilização de sistemas de inteligência artificial por danos decorrentes de racismo algorítmico. Apresentando um panorama histórico e legislativo sobre o tema, conclui-se que as regras atuais de responsabilidade civil podem ser adaptadas para abranger essas novas tecnologias, desde que o legislativo brasileiro primeiramente regule a atividade dos sistemas de inteligência artificial e, em seguida, defina as regras civis aplicáveis.

Racism as a social practice present in contemporary societies affects power relations and consequently influences the way in which new technologies are created and subsequently used. Throughout history, this discriminatory phenomenon has permeated various areas of knowledge, ranging from biological to social sciences. In the era of digital evolution, with the fourth industrial revolution, racism and racist practices have not stopped adapting to new technologies, reaching the point of surpassing the physical world, reflecting in the development and execution of artificial intelligence systems, which can cause harm to Black people. Thus, through this research, employing the deductive method, a technique of bibliographical review, and a qualitative approach, the aim was to analyze current theories of civil liability concerning the accountability of artificial intelligence systems for damages resulting from cases of algorithmic racism. By providing a historical and legislative overview on the subject, it was concluded that existing rules of civil liability can be adapted to accommodate new technologies, contingent upon Brazilian legislation first regulating the activities of artificial intelligence systems and subsequently defining applicable civil rules.