Reflections on the ethics, potential, and challenges of artificial intelligence in the framework of quality education (SDG4)

Abstract

This article analyses and reflects on the ethical aspects of using artificial intelligence (AI) systems in educational contexts. On the one hand, the impact of AI in the field of education is addressed from the perspective of the Sustainable Development Goals (specifically, SDG4) of the UNESCO 2030 Agenda, describing the opportunities for its use by teachers and students. On the other hand, there is an emphasis on the uncertainties caused by the fears of some who think, for example, that AI robots will replace human teachers. The methodology used is based on a documentary review, supported by reports and studies conducted by researchers as well as institutions and organizations committed to the development of AI and its capacity for action in the educational field, and the ethical questions that experts and organizations around the world are raising. The results seek to influence and deepen the ethical implications that AI can have in the educational field. Finally, some critical questions about the ethics and challenges of AI in education are proposed, concluding with the need to add proposals with new research and political actions which could lead to the creation of an ethical observatory of AI for education. El artículo analiza y reflexiona sobre aspectos coyunturales de la ética en el uso de los sistemas de Inteligencia Artificial (IA) en contextos educativos. Se aborda, por un lado, el impacto de la IA en el campo de la Educación, desde la perspectiva de los Objetivos de Desarrollo Sostenible (concretamente, ODS4) de la Agenda 2030 de la UNESCO, describiendo las oportunidades en su uso por parte de docentes y estudiantes. Por otro, se hace hincapié en las incertidumbres, sobrevenidas por los temores de algunos que piensan, por ejemplo, que los robots de IA reemplazarán a los profesores humanos. La metodología utilizada se basa en la revisión documental que parte de informes y estudios de investigadores, así como de instituciones y organismos comprometidos con el desarrollo de la Inteligencia Artificial y de su capacidad de acción en el ámbito educativo, para, a partir de ahí, abordar las cuestiones éticas que se vienen planteando por parte de expertos y de organizaciones de todo el mundo. Los resultados obtenidos buscan incidir y profundizar en las implicaciones éticas que la Inteligencia Artificial puede tener en el ámbito educativo. Finalmente, se proponen algunas cuestiones clave de la ética y los retos de la IA en la educación concluyéndose en la necesidad de sumar propuestas con nuevas investigaciones y acciones políticas, retos que podrían materializarse con la creación de un observatorio ético de IA para la educación.

Inteligencia artificial generativa y educación

“…{ Balanced integration of GenAI in instructional design (García-Peñalvo et al, 2024). { Promotion of ethical behaviour and data protection (Flores-Vivar & García-Peñalvo, 2023).…”

Literacy in Artificial Intelligence as a Challenge for Teaching in Higher Education: A Case Study at Portalegre Polytechnic University

“…Although research into AIED has at its heart the desire to support student learning, experience from other areas of AI suggests that this ethical intention is not, in itself, sufficient [15][16][17][18]. Complementing this, education research shows that factors such as teacher-student interaction, educational programs, teachers' attitudes, and their decisions made in the classroom are related to the ethical dimension [18].…”

Producción científica sobre Inteligencia Artificial y educación: un análisis cienciométrico

“…En la actualidad es notorio que la IA ha trasformado la forma de aprender y de enseñar abriendo con ello un sinfín de posibilidades y desafíos (González, 2023;Roll y Wylie, 2016). Ejemplos claros de su aplicabilidad en el campo de la educación son: los sistemas de tutoría inteligente, donde puede adoptar diversos roles para una educación de calidad en línea (Aparicio-Gómez;Flores-Vivar et al, 2023) la personalización del aprendizaje, el análisis de datos (Berland et al, 2014), la potente IA generativa (García-Peñalvo et al, 2024;Solís et al, 2023) o, más recientemente, la denominada Inteligencia Artificial interactiva .…”