Definizione
L’Explainable AI (XAI) è l’insieme di approcci che rendono comprensibili e interpretabili le logiche decisionali di un sistema di IA, affinché gli utenti possano capirne motivazioni, limiti ed errori. Va oltre la mera trasparenza (sapere che si interagisce con un’IA): riguarda il perché di un output.
Come funziona
Si contrappongono modelli white-box (intrinsecamente interpretabili) e black-box (accurati ma opachi). Esiste un trade-off tra accuratezza e interpretabilità: i modelli più potenti tendono a essere meno spiegabili. In educazione, la spiegabilità è precondizione per la supervisione umana consapevole e per contestare una decisione automatizzata.
Applicazioni o esempi
- Diritto di studenti, docenti e famiglie a comprendere le decisioni algoritmiche che li riguardano (es. una valutazione assistita da IA).
- Riconoscere le allucinazioni richiede output tracciabili e verificabili.
Relazioni con altri concetti
- Supervisione umana (human-in-the-loop) — la spiegabilità abilita l’oversight umano
- DPIA e FRIA — valutazioni d’impatto — l’interpretabilità è parte della mitigazione del rischio
- Bias Algoritmico — spiegare aiuta a individuare discriminazioni
- Alfabetizzazione all’IA (AI Literacy) — capacità critica di interrogare gli output
- Trasparenza algoritmica (art. 50 AI Act) — la soglia minima (art. 50) che la spiegabilità supera: sapere che c’è un’IA, non perché
Contraddizioni e dibattiti
Il trade-off accuratezza/interpretabilità è una tensione aperta: sistemi più performanti possono risultare meno conformi ai requisiti di spiegabilità richiesti in ambito educativo.
Fonti
EDEH — Explainable AI in education: Fostering human oversight and shared responsibility (2025), 2025)