Tuo figlio ti mostra orgoglioso la ricerca di storia: una citazione precisa di uno storico, con tanto di anno e titolo dell'opera. Sembra perfetta. Peccato che quel libro non esista. Le allucinazioni dell'AI sono questo: un sistema che produce informazioni false con la stessa sicurezza con cui dice cose vere, e non c'è nessun campanello d'allarme a segnalartelo. Non è un bug raro né un difetto che sparirà con la prossima versione. È un limite strutturale di come funzionano i modelli generativi di linguaggio, documentato da una ricerca OpenAI del settembre 2025 firmata da Kalai, Nachum, Vempala e Zhang.
Per un genitore la posta in gioco è concreta: un adolescente che studia con un chatbot generico rischia di memorizzare formule plausibili ma sbagliate, eventi storici inventati, autori mai esistiti. E il problema vero non è che l'AI sbagli, perché sbagliano anche i libri e gli insegnanti. Il problema è che l'AI sbaglia senza esitare, e lo studente non ha gli strumenti per accorgersene. In questo articolo capiremo perché le allucinazioni dell'AI esistono, come si manifestano nei compiti, perché tuo figlio non le riconosce, e soprattutto come allenarlo a verificare invece di credere.
Cosa sono davvero le allucinazioni dell'AI
In gergo tecnico, un'"allucinazione" è una risposta di un modello linguistico che è formalmente coerente, fluente e convincente, ma fattualmente falsa o inventata di sana pianta. Il termine è fuorviante: il sistema non "vede cose che non ci sono" come un essere umano. Genera semplicemente la sequenza di parole statisticamente più probabile data la domanda, senza alcun accesso a un concetto di "vero" o "falso".
Lo spiega bene un approfondimento divulgativo di Zanichelli, una delle case editrici scolastiche più solide in Italia: questi sistemi lavorano sulle correlazioni tra parole, non sulla verità dei contenuti. Un modello linguistico è una macchina probabilistica che, addestrata su enormi quantità di testo, prevede quale parola viene dopo l'altra. Quando non "sa" qualcosa, non si ferma: completa comunque la frase con ciò che suona più verosimile.
La conseguenza è precisa: per un modello generativo, una citazione inventata e una citazione reale hanno lo stesso identico aspetto, perché entrambe sono solo sequenze di parole probabili. Ecco perché l'errore arriva con la stessa sicurezza della verità.
Perché non si possono eliminare del tutto
La ricerca OpenAI del 2025 arriva a una conclusione scomoda: le allucinazioni non sono un difetto di implementazione, ma una proprietà statistica dell'addestramento. La frase chiave dell'abstract è netta: "i modelli linguistici allucinano perché le procedure di addestramento e valutazione premiano l'indovinare rispetto al riconoscere l'incertezza".
In pratica, i benchmark con cui si misurano questi sistemi assegnano punti alle risposte azzardate e zero a un onesto "non lo so", esattamente come in un test a crocette dove conviene sempre tirare a indovinare. Il modello impara a non dire mai "non lo so", e quindi inventa. La ricerca dimostra anche un limite matematico: per ampie classi di problemi, un sistema generativo che generalizza oltre i dati di addestramento produrrà sempre una quota di errori, per quanto migliori la tecnologia.
Questo è il punto che ogni genitore dovrebbe interiorizzare: nessun chatbot generico, oggi o nel 2027, sarà mai affidabile al 100% sui fatti. La linguista computazionale Emily Bender è ancora più diretta: questi sistemi inventano sempre, perché inventare è esattamente ciò che sono progettati per fare. Promettere "zero allucinazioni" è, allo stato dell'arte, marketing.
Come si manifestano nei compiti di tuo figlio
Sul quaderno, l'allucinazione non ha l'aria di un errore. Ha l'aria di una risposta brillante. Ecco i tre volti più comuni che incontrerai.
Citazioni e fonti inesistenti. Il caso più clamoroso è giudiziario: nel 2023, due avvocati di New York hanno presentato in tribunale sei sentenze citate da ChatGPT, complete di numeri di fascicolo, nomi di giudici e citazioni testuali. Nessuna delle sei esisteva. Il caso, Mata contro Avianca, si è chiuso con una sanzione di 5.000 dollari ai legali. Se è successo a professionisti adulti, immagina un quattordicenne con la bibliografia di un tema.
Eventi e biografie inventate. Nel 2023 ChatGPT ha affermato che il sindaco australiano Brian Hood era stato in carcere trenta mesi per corruzione: in realtà Hood era il denunciante dello scandalo, mai indagato. La vicenda, raccontata da Euronews, è diventata il primo caso di possibile diffamazione da AI. Nei compiti questo diventa: date sbagliate, personaggi storici confusi, attribuzioni errate.
Formule e passaggi plausibili ma falsi. In matematica e fisica l'AI può produrre una derivazione dall'aspetto impeccabile con un passaggio invertito a metà, o una formula con un coefficiente errato. È la categoria più insidiosa, perché lo studente che ancora non padroneggia l'argomento non ha modo di intercettare l'errore.
Perché tuo figlio non se ne accorge
Qui sta il cuore del problema educativo, e non è una questione di intelligenza. È una questione di fiducia mal riposta. Uno studio sul campo del 2025 sulle conversazioni studenti-ChatGPT mostra che gli studenti tendono ad accettare le risposte dell'AI semplicemente perché sono formulate con tono articolato, sicuro e autorevole: la forma convince più del contenuto.
Gli psicologi cognitivi lo chiamano automation bias: la tendenza a fidarsi delle risposte di un sistema automatico più che del proprio ragionamento. È un meccanismo più forte proprio nei soggetti meno sicuri o più lenti, cioè spesso gli studenti che cercano aiuto. A questo si aggiunge un problema logico semplice: per accorgersi che una risposta è sbagliata, devi già sapere la risposta giusta. Chi sta studiando un argomento per la prima volta, per definizione, non ce l'ha.
Il risultato è che lo studente non legge l'AI come una fonte da verificare, ma come un oracolo da copiare. E un oracolo che parla bene viene creduto anche quando mente.
Insegnare a verificare invece che a credere: 5 mosse concrete
La buona notizia è che il pensiero critico verso l'AI è una competenza allenabile, e l'antidoto alle allucinazioni non è vietare lo strumento ma cambiare il modo di usarlo. Ecco cinque mosse da proporre a tuo figlio.
1. Tratta l'AI come un compagno di classe sveglio ma bugiardo. Un compagno che a volte ha ragione e a volte spara cavolate con la stessa faccia. Mai copiare, sempre controllare.
2. Chiedi sempre la fonte e verificala davvero. Se l'AI cita un libro, un articolo o una sentenza, va cercato. Se non si trova, probabilmente non esiste. Le allucinazioni dell'AI si smascherano quasi sempre così.
3. Fai la prova del "spiegamelo al contrario". Far rifare il ragionamento partendo dalla conclusione: gli errori logici e i passaggi inventati emergono quando si chiede il perché, non solo il cosa.
4. Incrocia con una fonte di tipo diverso. Il libro di testo, l'enciclopedia, l'insegnante. Se due fonti indipendenti concordano, la probabilità di errore crolla.
5. Diffida delle risposte troppo perfette. Una citazione precisissima su un argomento di nicchia è spesso un campanello: l'AI tende a inventare proprio i dettagli più specifici, perché sono quelli che "suonano" competenti.
Perché alcuni sistemi sbagliano meno di altri
Non tutti gli usi dell'AI sono ugualmente rischiosi, e questo è un punto tecnico che cambia tutto. Due famiglie di soluzioni riducono in modo misurabile le allucinazioni, anche se nessuna le azzera.
La prima è la verifica computazionale: invece di lasciare che il modello "calcoli a parole", si delega il calcolo a un motore matematico o simbolico esterno (come SymPy per la matematica o librerie dedicate per fisica e chimica). Il modello propone, ma è un verificatore deterministico a confermare o scartare. Su un'equazione, un sistema così non improvvisa: o il calcolo torna, o non passa.
La seconda è il retrieval da fonti curate, noto come RAG (Retrieval-Augmented Generation): il modello non risponde dalla propria memoria statistica, ma recupera prima passaggi da una base documentale verificata e risponde ancorandosi a quella. La letteratura tecnica mostra riduzioni delle allucinazioni anche superiori al 40% rispetto a un modello isolato, a condizione che la fonte corretta sia presente. In sintesi: il modello smette di essere la fonte dei fatti e diventa un assemblatore di fatti presi da fonti affidabili.
I limiti (e cosa significano per noi)
Onestà accademica: né la verifica computazionale né il retrieval risolvono il problema in modo definitivo. Il calcolo simbolico copre la matematica e le scienze esatte, non l'interpretazione di una poesia o di un evento storico. Il retrieval funziona solo se la fonte giusta è nella base documentale, e può comunque sbagliare nel selezionare il passaggio. La quota irriducibile di errore dimostrata dalla ricerca OpenAI resta.
La lezione per noi non è quindi "esiste l'AI perfetta" contro "esiste l'AI bugiarda". È più sottile: un sistema progettato per limitare le allucinazioni — con verificatori, fonti curate e l'abitudine di dichiarare l'incertezza — è strutturalmente più sicuro di un chatbot generico che risponde a tutto con la stessa sicurezza. La differenza non sta nella marca, ma nell'architettura. Per approfondire perché non tutti i tutor AI sono uguali, abbiamo dedicato un articolo a cosa dice uno studio della University of Pennsylvania sui tutor che danno solo risposte.
Il metodo Metod·IA
Metod·IA nasce esattamente dentro questo problema. Invece di lasciare che un modello generico risponda di getto, il sistema combina le due famiglie di soluzioni viste sopra: la matematica e le scienze passano per un verificatore computazionale (SymPy, Pint, librerie di chimica), e i contenuti disciplinari sono ancorati a un curricolo allineato alle indicazioni ministeriali, non alla memoria statistica del modello.
C'è poi una scelta pedagogica più profonda, ed è la stessa che chiediamo ai genitori di adottare a casa. I tutor di Metod·IA non danno la risposta pronta: usano il metodo socratico, fanno domande, guidano lo studente a costruire il ragionamento. È lo stesso spirito delle tre regole d'oro per usare ChatGPT a scuola che abbiamo proposto ai genitori. Un sistema che ti fa arrivare alla risposta da solo è anche un sistema in cui, se qualcosa non torna, te ne accorgi. La verifica diventa parte dell'apprendimento, non un controllo da fare dopo.
In sintesi
Le allucinazioni dell'AI non sono un incidente, ma una caratteristica strutturale dei modelli generativi: un chatbot può inventare citazioni, eventi e formule con la stessa sicurezza con cui dice il vero, e nessuna versione futura le eliminerà del tutto. Il rischio per tuo figlio non è l'errore in sé, ma il fatto che non ha gli strumenti per riconoscerlo. La risposta non è il divieto, ma l'educazione: insegnargli a verificare le fonti, incrociare i dati e diffidare delle risposte troppo perfette. E quando si sceglie uno strumento, contano l'architettura — verifica computazionale, fonti curate, metodo socratico — più del nome sulla confezione.
Domande frequenti
Le allucinazioni dell'AI spariranno con le versioni future?
No, non del tutto. La ricerca OpenAI del 2025 dimostra che sono una proprietà statistica dell'addestramento, non un bug. Le nuove versioni le riducono, ma un modello generativo che risponde a tutto continuerà a produrre una quota irriducibile di errori plausibili.
Come faccio a sapere se una risposta dell'AI è inventata?
Verifica sempre le fonti citate: se un libro, un articolo o un caso non si trovano da nessuna parte, probabilmente non esistono. Incrocia l'informazione con il libro di testo o l'insegnante e diffida delle risposte troppo precise su argomenti di nicchia.
È più sicuro vietare l'AI a mio figlio?
Il divieto raramente funziona e priva tuo figlio di una competenza ormai necessaria. È più efficace insegnargli a usarla con spirito critico, trattandola come una fonte da verificare e non come un oracolo, e preferire strumenti progettati per limitare le allucinazioni.
Se vuoi capire come uno strumento può ridurre concretamente questi rischi invece di amplificarli, dai un'occhiata a come funziona Metod·IA: verifica dei calcoli, contenuti ancorati al curricolo e tutor che guidano invece di rispondere al posto di tuo figlio.
Fonti: Kalai, Nachum, Vempala, Zhang, "Why Language Models Hallucinate" (OpenAI, 2025), arXiv:2509.04664. Zanichelli, Aula di Scienze, "Le allucinazioni dell'intelligenza artificiale". Mata v. Avianca, Inc. (Wikipedia). Euronews, "Why does ChatGPT make things up?" (2023). "Do Students Rely on AI? Analysis of Student-ChatGPT Conversations" (2025), arXiv:2508.20244.