Explainable AI in education: Fostering human oversight and shared responsibility

Le document "Explainable AI in education: Fostering human oversight and shared responsibility", publié par le European Digital Education Hub (EDEH) en 2025, traite de l'intelligence artificielle explicable (XAI) dans l'éducation. La XAI vise à ce que les systèmes d'IA expliquent leurs décisions de manière claire, favorisant ainsi la confiance et la responsabilité. Rédigé par des experts, le rapport détaille comment la XAI améliore l'éducation en s'alignant sur les valeurs éthiques et légales européennes.

Divisé en cinq chapitres, le premier introduit la XAI, expliquant des concepts tels que la transparence, l'interprétabilité, l'explicabilité et la compréhensibilité. Il souligne que la XAI distingue l'IA des autres programmes par son autonomie et ses résultats complexes, nécessitant des explications claires. Dans l'éducation, la XAI soutient l'apprentissage personnalisé et respecte les directives éthiques de l'UE, telles que l'AI Act.

Le deuxième chapitre analyse la conformité de la XAI avec l'AI Act et le RGPD, qui exigent transparence et protection des données. À travers des cas fictifs (notation automatique, tutorat intelligent), il explore les défis pour fournir des explications adaptées aux étudiants, aux éducateurs et aux développeurs, assurant ainsi la conformité légale et éducative.

Le troisième chapitre examine la XAI du point de vue des acteurs de l'éducation, en se concentrant sur les systèmes de tutorat intelligent et les générateurs de plans de cours. Ces outils personnalisent l'apprentissage mais nécessitent des explications claires pour générer la confiance. Il met en avant la collaboration entre enseignants, étudiants et autorités pour garantir des explications éthiques.

Le quatrième chapitre propose des compétences pour les éducateurs basées sur le cadre de l'UNESCO, couvrant l'éducation primaire à supérieure. Il inclut la compréhension des explications de l'IA, l'évaluation des biais et la promotion de la pensée critique. Des exemples pratiques, tels que des activités hors ligne pour les élèves de primaire ou des projets d'analyse des biais, encouragent l'alphabétisation en IA.

Le chapitre final conclut que la XAI aligne l'IA avec les valeurs éducatives, recommandant la formation, des outils transparents et un financement pour les ressources ouvertes. Il plaide pour la collaboration afin de combiner l'innovation technologique avec le jugement humain, assurant une éducation éthique et efficace.

En résumé, ce document offre un guide complet sur la manière dont la XAI peut transformer l'éducation, en garantissant que les systèmes d'IA soient transparents, éthiques et utiles. C'est un outil précieux pour les éducateurs, les développeurs et les responsables politiques cherchant à mettre en œuvre l'IA de manière responsable dans les environnements éducatifs.