File raw: raw/papers/valutazione-d-impatto-dell-intelligenza-artificiale-agid.md
Origine: NotebookLM «Linee Guida sull’Intelligenza Artificiale a Scuola»
Sommario
Bozza in consultazione pubblica (versione 1.0 del 14.02.2025) della matrice AgID per la Valutazione d’Impatto dell’Intelligenza Artificiale (AIIA), strumento di supporto alle Pubbliche Amministrazioni che devono valutare un sistema di IA prima di introdurlo. Il documento è strutturato come una serie di schede con domande obbligatorie e facoltative, calibrate sul livello di rischio del sistema secondo il Regolamento (UE) 2024/1689 (AI Act). Include un’appendice per identificare il livello di rischio (inaccettabile/alto/limitato/basso) e, in caso di rischio inaccettabile ex art. 5 AI Act, il sistema non può essere introdotto.
Punti chiave
- L’AIIA è uno strumento di autovalutazione per le PA, organizzato in sei aree-scheda: C1 Domande introduttive, C2 Diritti fondamentali ed equità, C3 Robustezza tecnologica, C4 Governance dei dati, C5 Gestione del rischio, C6 Accountability.
- Ogni domanda è classificata come Obbligatoria (O) o Facoltativa (F) e associata al livello di rischio (Tutti / Inaccettabile / Alto / Limitato / Basso o Minimo) secondo l’AI Act.
- C2 (Diritti fondamentali ed equità) copre proporzionalità rispetto a tecnologie standard, base giuridica, bias (input/modello/output), e partecipazione degli stakeholder (governance multipartecipativa, meccanismi di feedback).
- C3 (Robustezza tecnologica) richiede accuratezza, affidabilità, implementazione tecnica, replicabilità (versioning, seed fisso) e spiegabilità/interpretabilità del sistema.
- C4 (Governance dei dati) include qualità e integrità dei dati, uso di dati aperti, e privacy/protezione dati personali con riferimento esplicito a GDPR, DPIA, categorie particolari di dati e tutela degli interessati.
- C5 (Gestione del rischio) tratta rischio informatico, attenzione ai gruppi vulnerabili (es. minori), procedura alternativa in caso di guasto, e protezione da attacchi/corruzione del sistema.
- C6 (Accountability) richiede comunicazione trasparente, informazione agli utenti sul fatto che i risultati sono generati da IA, istruzioni d’uso, verificabilità con supervisione umana, archiviazione e sostenibilità ambientale.
- L’Appendice 1 traspone l’art. 5 AI Act (pratiche vietate: tecniche subliminali/manipolative, sfruttamento di vulnerabilità, social scoring, predizione di reati su sola profilazione, scraping non mirato per riconoscimento facciale, riconoscimento delle emozioni in scuole e luoghi di lavoro, categorizzazione biometrica di dati sensibili, identificazione biometrica remota in tempo reale) e l’art. 6 (criteri del rischio alto, incluso l’ambito istruzione e formazione professionale nell’allegato III).
Entità menzionate
Agenzia per l’Italia Digitale (AgID) — autrice della matrice AIIA per la PA Garante per la protezione dei dati personali — implicito tramite riferimenti a DPIA, RPD e tutela degli interessati
Concetti trattati
Intelligenza Artificiale — sistemi di IA nella PA e relativa valutazione d’impatto Bias Algoritmico — valutazione di bias in input, modello e output Privacy e protezione dei dati — GDPR, DPIA, categorie particolari di dati, RPD Supervisione umana (human-in-the-loop) — verifica e supervisione umana, procedura alternativa Governance scolastica dell’IA — modello di governance multipartecipativa e accountability trasferibile alla scuola
Citazioni rilevanti
“qualora il sistema rientri tra quelli vietati dall’art. 5 del predetto Regolamento, non potrà essere introdotto.”
“Il sistema inferisce le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione… [pratica vietata, salvo motivi medici o di sicurezza]“
Contraddizioni o tensioni
- Nessuna contraddizione rilevata. Il documento è complementare a 1689 (ne è la trasposizione operativa per la PA italiana) e fornisce lo strumento di valutazione del rischio che le scuole possono usare insieme alle 2025) per i sistemi di IA ad alto rischio (istruzione è ambito ad alto rischio nell’allegato III).
- Il file raw appare troncato (le schede si interrompono a A1.2 sul rischio alto): potrebbe mancare la parte finale dell’appendice.
Domande aperte
- Quale versione definitiva è stata adottata dopo la consultazione pubblica del febbraio 2025?
- Come si integra concretamente l’AIIA con la DPIA esistente per evitare duplicazioni di adempimenti nelle scuole?