Acceso usuarios
[1]
;
Alier, Marc
[2]
;
Pereira, Juanan
[3]
;
Casany, Maria Jose
[2]
Salamanca, España
Barcelona, España
Leioa, España
La creciente integración de la inteligencia artificial (IA) en los entornos educativos requiere un marco estructurado para garantizar su uso seguro y ético. Se ha propuesto un manifiesto que establece siete principios clave para una IA segura aplicada a la educación, destacando la protección de los datos del estudiantado, la alineación con las estrategias institucionales, la congruencia con las prácticas didácticas, la minimización de errores, interfaces de usuario comprensibles, supervisión humana y transparencia ética. Estos principios están diseñados para guiar la implementación de tecnologías de IA en entornos educativos, abordando riesgos potenciales como violaciones de privacidad, uso indebido y dependencia excesiva de la tecnología. También se introducen las Aplicaciones Inteligentes para el Aprendizaje (SLApps), que integran la IA en el ecosistema tecnológico institucional existente, con especial atención a las plataformas de aprendizaje que son la base de los campus virtuales, permitiendo experiencias de aprendizaje seguras, adaptativas según el rol y específicas para cada asignatura. Si bien los grandes modelos de lenguaje como GPT ofrecen un potencial transformador en la educación, también presentan desafíos relacionados con la precisión, el uso ético y la congruencia pedagógica. Para enfrentar estas complejidades, se recomienda una lista de verificación basada en los principios de IA segura en la educación, que proporciona al profesorado e instituciones un marco para evaluar las herramientas de IA, asegurando que apoyen la integridad académica, mejoren las experiencias de aprendizaje y respeten los estándares éticos.
The increasing integration of artificial intelligence (AI) into educational environments necessitates a structured framework to ensure its safe and ethical use. A manifesto outlining seven core principles for safe AI in education has been proposed, emphasizing the protection of student data, alignment with institutional strategies, adherence to didactic practices, minimization of errors, comprehensive user interfaces, human oversight, and ethical transparency. These principles are designed to guide the deployment of AI technologies in educational settings, addressing potential risks such as privacy violations, misuse, and over-reliance on technology. Smart Learning Applications (SLApps) are also introduced, integrating AI into the existing institutional technological ecosystem, with special attention to the learning management systems, enabling secure, role-adaptive, and course-specific learning experiences. While large language models like GPT offer transformative potential in education, they also present challenges related to accuracy, ethical use, and pedagogical alignment. To navigate these complexities, a checklist based on the Safe AI in Education principles is recommended, providing educators and institutions with a framework to evaluate AI tools, ensuring they support academic integrity, enhance learning experiences, and uphold ethical standards.
