La Intel·ligència Artificial Explicable és un conjunt de tècniques i enfocaments que permeten entendre com els
sistemes d'IA prenen decisions. Busca fer transparent el "
raonament" de la intel·ligència artificial, explicant de forma comprensible per a humans per què un
algoritme va arribar a una conclusió específica.
Molts sistemes avançats d'IA basats en tècniques com
xarxes neuronals i
aprenentatge profund funcionen com a "caixes negres" on es coneixen les dades d'entrada i els resultats, però no és evident com s'ha arribat d'un a l'altre. XAI busca obrir aquestes caixes negres, permetent que usuaris, desenvolupadors i reguladors entenguin el procés de presa de decisions.
Aquesta transparència és crucial en aplicacions sensibles com diagnòstics mèdics, sistemes de conducció autònoma, avaluació creditícia o sistemes judicials, on les decisions afecten directament les persones i on és important detectar i corregir
biaixos o errors. Per exemple, un sistema XAI d'avaluació de préstecs no només indicaria si s'aprova o rebutja una sol·licitud, sinó també quins factors específics van portar a aquesta decisió.
Les tècniques d'XAI inclouen visualitzacions, explicacions en llenguatge natural i mètodes que identifiquen quina informació va ser més decisiva. Aquesta capacitat d'explicació no només genera confiança en la tecnologia, sinó que també és cada vegada més un requisit legal en moltes jurisdiccions que regulen l'ús de la IA.