Ethoscool: avançando a ética em ia na educação por meio de agentes morais artificiais

Abstract

O avanço das tecnologias de Inteligência Artificial (IA) tem levantado preocupações acerca dos impactos éticos deste avanço em diversos campos. Para mitigar tais impactos, estudos recentes sugerem que a IA deve ser alinhada a valores humanos. Uma abordagem importante, nesse contexto, é a ética por design, que busca desenvolver sistemas autônomos com capacidade de raciocínio ético. No campo da educação, entretanto, as pesquisas existentes têm se concentrado principalmente nas implicações sociais da expansão da IA, negligenciando questões éticas fundamentais, como aquelas abordadas pelo framework Fairness, Accountability, Transparency e Ethics (FATE). Nesse sentido, a presente pesquisa propõe e descreve um modelo de Agente Moral Artificial (AMA) capaz de promover o engajamento comportamental em grupos de aprendizagem colaborativa. Os resultados evidenciaram, apesar das fragilidades identificadas, a capacidade do agente de tomar decisões éticas alinhadas a princípios deontológicos pré-estabelecidos e reconhecidos pela comunidade de pesquisa e a sua proficiência em lidar com dilemas éticos usando raciocínio utilitarista. Tais resultados marcam um progresso fundamental em direção a uma IA confiável no ambiente de ensino e aprendizagem. A integração ética da IA na educação e o estabelecimento de diretivas que permitem futuros avanços neste campo estão entre as principais contribuições desta pesquisa para o campo da Informática na Educação.

The advancement of Artificial Intelligence (AI) technologies has raised concerns about the ethical impacts of this progress in various fields. To mitigate these impacts, recent studies suggest that AI should be aligned with human values. An important approach in this context is ethics by design, which aims to develop autonomous systems with ethical reasoning capabilities. In the field of education, however, existing research has primarily focused on the social implications of AI expansion, neglecting fundamental ethical issues addressed by the Fairness, Accountability, Transparency, and Ethics (FATE) framework. In this regard, the current research proposes and describes a model of Artificial Moral Agent (AMA) capable of promoting behavioral engagement in collaborative learning teams. The results, despite identified weaknesses, demonstrated the agent’s ability to make ethical decisions aligned with pre-established deontological principles recognized by the research community and its proficiency in handling ethical dilemmas using utilitarian reasoning. These outcomes mark a significant step toward reliable AI in the educational environment. The ethical integration of AI in education and the establishment of guidelines enabling future advancements in this field are among the main contributions of this research to the field of Informatics in Education.