Explainable AI in education: Fostering human oversight and shared responsibility

El documento "Explainable AI in education: Fostering human oversight and shared responsibility", publicado por la European Digital Education Hub (EDEH) en 2025, aborda la inteligencia artificial explicable (XAI) en la educación. La XAI busca que los sistemas de IA expliquen sus decisiones de forma clara, promoviendo confianza y responsabilidad. Elaborado por expertos, el informe detalla cómo la XAI mejora la educación alineándose con valores éticos y legales europeos.

Dividido en cinco capítulos, el primero introduce la XAI, explicando conceptos como transparencia, interpretabilidad, explicabilidad y comprensibilidad. Destaca que la XAI diferencia a la IA de otros programas por su autonomía y resultados complejos, requiriendo explicaciones claras. En educación, apoya la personalización del aprendizaje y cumple con las directrices éticas de la UE, como la AI Act.

El segundo capítulo analiza el cumplimiento de la XAI con la AI Act y el GDPR, que exigen transparencia y protección de datos. A través de casos ficticios (calificación automática, tutoría inteligente), se exploran retos para ofrecer explicaciones adaptadas a estudiantes, educadores y desarrolladores, asegurando conformidad legal y educativa.

El tercer capítulo examina la XAI desde la perspectiva de actores educativos, enfocándose en sistemas de tutoría inteligente y generadores de planes de lecciones. Estas herramientas personalizan el aprendizaje, pero necesitan explicaciones claras para generar confianza. Se subraya la colaboración entre docentes, estudiantes y autoridades para garantizar explicaciones éticas.

El cuarto capítulo propone competencias para educadores basadas en el marco de la UNESCO, cubriendo desde la educación primaria hasta la superior. Incluye entender explicaciones de IA, evaluar sesgos y fomentar el pensamiento crítico. Ejemplos prácticos, como actividades sin conexión para primaria o proyectos de análisis de sesgos, promueven la alfabetización en IA.

El capítulo final concluye que la XAI alinea la IA con valores educativos, recomendando formación, herramientas transparentes y financiación para recursos abiertos. Aboga por la colaboración para combinar innovación tecnológica con juicio humano, asegurando una educación ética y efectiva.

En resumen, este documento ofrece una guía completa sobre cómo la XAI puede transformar la educación, asegurando que los sistemas de IA sean transparentes, éticos y útiles. Es una herramienta valiosa para educadores, desarrolladores y responsables políticos que buscan implementar IA de manera responsable en entornos educativos.