Considerando aspectos éticos na construção de robôs

Abstract

A ampla utilização da tecnologia, sobretudo da robótica e das técnicas de aprendizado de máquina e de inteligência artificial, no cotidiano de grande parte da população gera uma grande preocupação sobre qual a melhor maneira de abordar a ética e a moral das decisões tomadas por sistemas computacionais. Este estudo parte do padrão internacional da IEEE Ontological Standard for Ethically Driven Robotics and Automation Systems, onde é proposto a definição de um padrão ontológico para estabelecer uma metodologia para o projeto de sistemas robóticos e de automação que consideram aspectos éticos. Este estudo propõe uma das primeiras implementações de um aplicativo que explora os conceitos apresentados na ontologia proposta pelo padrão. É apresentado uma ferramenta que implementa uma parte do padrão ontológico, a de gestão de violações éticas, e fornece mecanismos para construir cenários dentro da ontologia, simular tais cenários, realizar a análise de eventos sobre essa ontologia, e visualizar os relacionamentos das entidades que fazem parte de um cenário construído na ferramenta. Como resultado desse estudo temos não só a construção de uma ferramenta que usa o padrão ontológico para sistemas robóticos e de automação que consideram aspectos éticos, mas também resultados gerados pelo uso da ferramenta. Com este trabalho é possível ter, também, mais dados para avaliar se a utilização do padrão ontológico apresenta resultados positivos para a construção de sistemas reais, qual a complexidade envolvida em utilizar o modelo, e como sistemas robóticos e de automação podem melhor utilizar o modelo.

The wide utilization of technology, specially for robotics and machine learning and artificial intelligence techniques for big part of the population brings a major concern on how is the proper way to approach ethics and moral regarding decisions that were taken by computational systems. This study starts from the results from another study: Ontological Standard for Ethically Driven Robotics and Automation Systems, which proposes the definition of a ontological standard to establish a methodology to design ethically driven robotics and automation systems. This present study proposes, thus, one of the very first implementation of an application that explores the concepts introduced on this ontological standard. The proposal is an application that implements a subset of the ontological pattern, the ethical violation management subsystem, providing mechanisms so that it is possible to built scenarios on top of the ontological standard, simulate such scenario, perform the analysis of all events that happens on such scenario and visualize the relationship between all entities that are part of the scenario built using the application. More over, the results of this study is not only the development of this application, which is one of the first to consider the ontological standard for ethically driven robotics and automation systems, and the data that were generated by the analysis performed by this tool, but also the data produced by utilizing an application built on top of the ontology for the very first time. It is now possible to better evaluate if the utilization of this ontological standard fits the needs and positively affects the development of real world applications, what is the complexity involved to properly utilize the model, and how robotics and automation systems can better utilize the model.