La integración de la inteligencia artificial (IA) en la educación superior presenta un vasto potencial para la innovación y la transformación, abarcando tanto los procesos de enseñanza y aprendizaje como la gestión y la investigación. Sin embargo, este uso conlleva una serie de desafíos y riesgos que requieren atención, especialmente en términos de ética y responsabilidad. La regulación con el reciente Reglamento de la Unión Europea sobre IA (Artificial Intelligent Act, AIA), busca proporcionar un marco para un uso ético y seguro de esta tecnología. En este contexto, es esencial que los estudiantes universitarios adquieran un nivel adecuado de conocimiento y habilidades para interactuar con la IA de manera crítica y responsable. La verificación humana o el human on the loop emerge como un componente fundamental para un uso ético y alineado con los ODS y el diseño universal del aprendizaje (DUA). Este enfoque implica la supervisión y validación continua del funcionamiento y los resultados de las aplicaciones de IA, así como la intervención cuando sea necesario para corregir o mejorar su desempeño. La experiencia que presentamos se desarrolla en el contexto de un proyecto de innovación educativa, y se enfoca en evaluar el grado de conocimiento y usabilidad de la IA entre estudiantes universitarios. Además, investiga el papel que desempeña la verificación humana en la interacción de los estudiantes con la IA. A través de un cuestionario en línea para una primera evaluación diagnóstica y la realización de actividades prácticas, pretendemos preparar al estudiantado para un mundo digital y tecnológico en permanente cambio, promover un uso adecuado y fomentar una reflexión crítica sobre el impacto y la ética de la IA en la sociedad y el entorno educativo.
La integració de la intel·ligència artificial (IA) en l'educació superior presenta un vast potencial per a la innovació i la transformació, abastant tant els processos d'ensenyament i aprenentatge com la gestió i la recerca. No obstant això, aquest ús comporta una sèrie de desafiaments i riscos que requereixen atenció, especialment en termes d'ètica i responsabilitat. La regulació amb el recent Reglament de la Unió Europea sobre IA (Artificial Intelligent Act, AIA), cerca proporcionar un marc per a un ús ètic i segur d'aquesta tecnologia. En aquest context, és essencial que els estudiants universitaris adquireixin un nivell adequat de coneixement i habilitats per a interactuar amb la IA de manera crítica i responsable. La verificació humana o el human on the loop emergeix com un component fonamental per a un ús ètic i alineat amb els ODS i el disseny universal de l'aprenentatge (DUA). Aquest enfocament implica la supervisió i validació contínua del funcionament i els resultats de les aplicacions de IA, així com la intervenció quan sigui necessari per a corregir o millorar el seu acompliment. L'experiència que presentem es desenvolupa en el context d'un projecte d'innovació educativa, i s'enfoca a avaluar el grau de coneixement i usabilitat de la IA entre estudiants universitaris. A més, investiga el paper que exerceix la verificació humana en la interacció dels estudiants amb la IA. A través d'un qüestionari en línia per a una primera avaluació diagnòstica i la realització d'activitats pràctiques, pretenem preparar a l'estudiant per a un món digital i tecnològic en permanent canvi, promoure un ús adequat i fomentar una reflexió crítica sobre l'impacte i l'ètica de la IA en la societat i l'entorn educatiu.
The integration of Artificial Intelligence (AI) in higher education holds immense potential for innovation and transformation, encompassing both teaching and learning processes as well as management and research. However, this usage brings forth a series of challenges and risks which require attention, particularly in terms of ethics and responsibility. Regulation, such as the European Union Regulation on AI, aims to provide a framework for ethical and secure use of this technology. In this context, it is essential for university students to acquire an adequate level of knowledge and skills to interact with AI critically and responsibly. Human verification, or "human on the loop," emerges as a fundamental component for ethical use aligned with the Sustainable Development Goals (SDGs) and Universal Design for Learning (UDL). This approach entails continuous monitoring and validation of the functioning and outcomes of AI applications, as well as intervention when necessary to correct or enhance their performance.
The experience we present unfolds within the framework of an educational innovation project and focuses on assessing the level of knowledge and usability of AI among university students. Additionally, it explores the role played by human verification in students' interaction with AI. Through an online questionnaire for an initial diagnostic evaluation and the implementation of practical activities, our aim is to prepare students for a constantly evolving digital and technological world, promote appropriate usage, and foster critical reflection on the impact and ethics of AI in society and the educational environment.