A inteligência artificial frente ao fascismo : uma discussão a partir do ChatGPT

Abstract

Este artigo busca problematizar a suposta neutralidade da ferramenta de Inteligência Artificial (IA) generativa ChatGPT por meio de uma discussão naliteratura crítica acerca da governamentalidade algorítmica e do ciberfascismo, bem como um experimento de conversa com o chatbot sobre temas sensíveis. Na primeira parte, são apresentadas definições do conceito de fascismo e discute-se a relação entre cibernética e fascismo, enfatizando a sua vertente contemporânea impulsionada pela mediação algorítmica. Depois, contextualiza-se o surgimento do ChatGPT, cotejando algumas experiências anteriores de IAs evidenciadas como ferramentas de diálogo que se viram obrigadas a lidar com a radicalização política e a alimentação da inteligência artificial com conteúdos sintonizados a um ethosfascista por parte de alguns usuários. Refletimos, também, sobre a presença de IAs generativas na educação, postulando sobre a proximidade do conceito freireano de Educação Bancária com o contemporâneo cibertecnicismo. Na parte empírica, destacamos dados de uma experimentação em formato de entrevista realizada com ChatGPT, na qual são formuladas perguntas que tentam induzir a inteligência artificial a responder se posicionando em determinados debates controversos. Na análise desse experimento, apontamos afinidades dessas respostas com a ideologia política fascista. Ao final, discutimos esses dados à luz do conceito de mediação e de cultura técnica em Gilbert Simondon.

Aiming to discuss the neutrality of ChatGPT's generative Artificial Intelligence (AI) tool, this article discusses the relationships between fascism and the responses produced by the chatbot. The first part presents definitions of the concept of fascism and discusses the relationship between cybernetics and fascism, emphasizing its contemporary aspect driven by algorithmic mediation. The emergence of ChatGPT is then contextualized, comparing some previous experiences of AIs presented as a tool for dialogue that were forced to deal with political radicalization and the feeding of artificial intelligence with content tuned to a fascist ethosby some users. We also reflect on the presence of generative AIs in education, postulating the proximity of Freire's concept of banking education to contemporary cybertechnicism. In the empirical part, we report data from an interview-style experiment conducted with ChatGPT, in which questions are formulated that attempt to induce the artificial intelligence to respond by taking a position in certain controversial debates. In analyzing the experiment, we pointed out some affinities of these responses with fascist political ideology. Finally, we discuss these data in light of the concept of mediation and technical culture in Gilbert Simondon.

Con el objetivo de discutir la neutralidad de la herramienta de Inteligencia Artificial (IA) generativa de ChatGPT, este artículo analiza las relaciones entre el fascismo y las respuestas producidas por el chatbot.. En la primera parte se presentan definiciones del concepto de fascismo y se discute la relación entre la cibernética y el fascismo, enfatizando su aspecto contemporáneo impulsado por la mediación algorítmica. Luego se contextualiza el surgimiento de ChatGPT, comparando algunas experiencias previas de IA presentadas como una herramienta para el diálogo que tuvieron que lidiar con la radicalización política y la alimentación de la inteligencia artificial con contenidos sintonizados con un ethosfascista por parte de unos usuarios. Reflexionamos sobre la presencia de IA generativas en la educación, postulando la proximidad. En la parte empírica, reportamos datos de un experimento tipo entrevista realizado con ChatGPT, en el que se formulan preguntas que intentan inducir a la inteligencia artificial a responder tomando posición en ciertos debates polémicos. Al analizar el experimento, señalamos algunas afinidades de estas respuestas con la ideología política fascista. Finalmente, discutimos estos datos bajo los concepto de mediación y cultura técnica en Gilbert Simondon.