Definizione
Le allucinazioni sono output generati dall’IA che appaiono grammaticalmente corretti e narrativamente plausibili, ma che in realtà contengono informazioni fattualmente errate, imprecise o del tutto infondate.
Come funziona
Il fenomeno si verifica quando un modello generativo (come un chatbot o un LLM (Large Language Model)) si imbatte in schemi o oggetti inesistenti o elabora associazioni statistiche errate, creando risposte insensate. Le allucinazioni possono originarsi anche a valle di un processo di apprendimento che era completamente privo di tali informazioni inesatte, il che le rende particolarmente insidiose per gli studenti. Per questo motivo si richiede sempre la verifica e la Supervisione umana (human-in-the-loop).
Applicazioni o esempi
- Attività “AI Benchmark e Fact-Checking”: il docente fornisce alla classe un testo generato dall’IA contenente errori fattuali; gli studenti cercano fonti autorevoli per smascherare gli errori e riscrivere un testo più accurato (vedi Scuola aumentata).
- Esercizi in cui gli studenti individuano anacronismi o errori storici nelle risposte di un’IA che simula un personaggio storico.
Relazioni con altri concetti
- LLM (Large Language Model) — il calcolo probabilistico della parola successiva può generare allucinazioni.
- IA Generativa — rischio tipico degli output generativi.
- Supervisione umana (human-in-the-loop) — la verifica umana è la principale contromisura.
- Alfabetizzazione all’IA (AI Literacy) — riconoscere le allucinazioni è parte della dimensione critica.
Fonti
Guida Pratica all’IA nella Scuola Secondaria di I grado, 2025), Epistemia 2.0: l’illusione di sapere perché una risposta «suona» giusta (2026)