Explainable AI in education: Fostering human oversight and shared responsibility

El document "Explainable AI in education: Fostering human oversight and shared responsibility", publicat pel European Digital Education Hub (EDEH) el 2025, aborda la intel·ligència artificial explicable (XAI) en l'educació. La XAI pretén que els sistemes d'IA expliquin les seves decisions de manera clara, fomentant així la confiança i la responsabilitat. Elaborat per experts, l'informe detalla com la XAI millora l'educació alineant-se amb els valors ètics i legals europeus.

Dividit en cinc capítols, el primer introdueix la XAI, explicant conceptes com la transparència, la interpretabilitat, l'explicabilitat i la comprensibilitat. Destaca que la XAI distingeix l'IA d'altres programes per la seva autonomia i resultats complexos, necessitant explicacions clares. En educació, la XAI dona suport a l'aprenentatge personalitzat i compleix amb les directrius ètiques de la UE, com l'AI Act.

El segon capítol analitza el compliment de la XAI amb l'AI Act i el RGPD, que exigeixen transparència i protecció de dades. A través de casos ficticis (qualificació automàtica, tutoria intel·ligent), explora els reptes per oferir explicacions adaptades als estudiants, educadors i desenvolupadors, assegurant el compliment legal i educatiu.

El tercer capítol examina la XAI des de la perspectiva dels actors educatius, centrant-se en sistemes de tutoria intel·ligent i generadors de plans de lliçons. Aquestes eines personalitzen l'aprenentatge, però necessiten explicacions clares per generar confiança. Es subratlla la col·laboració entre mestres, estudiants i autoritats per garantir explicacions ètiques.

El quart capítol proposa competències per als educadors basades en el marc de la UNESCO, cobrint des de l'educació primària fins a la superior. Inclou entendre les explicacions de la IA, avaluar els biaixos i fomentar el pensament crític. Exemples pràctics, com ara activitats sense connexió per a primària o projectes d'anàlisi de biaixos, promouen l'alfabetització en IA.

El capítol final conclou que la XAI alinea la IA amb els valors educatius, recomanant formació, eines transparents i finançament per a recursos oberts. Defensa la col·laboració per combinar la innovació tecnològica amb el judici humà, assegurant una educació ètica i efectiva.

En resum, aquest document ofereix una guia completa sobre com la XAI pot transformar l'educació, assegurant que els sistemes d'IA siguin transparents, ètics i útils. És una eina valuosa per a educadors, desenvolupadors i responsables polítics que busquin implementar la IA de manera responsable en entorns educatius.