Allucinazione AI
Un'allucinazione AI si verifica quando un modello linguistico genera informazioni false o inventate presentandole con tono sicuro e convincente.
Un'allucinazione AI rappresenta una risposta generata da un modello linguistico che include affermazioni prive di fondamento, dati inventati o fatti storici inesistenti, esposti con uno stile assertivo e del tutto convincente. Non si tratta di una bugia intenzionale, bensì del risultato naturale di un sistema statistico che formula frasi prevedendo la parola successiva più probabile, senza possedere una reale comprensione del mondo circostante o un accesso garantito a una verità oggettiva.
Nel lavoro quotidiano, questo fenomeno si traduce in testi che suonano impeccabili dal punto di vista grammaticale e sintattico, ma contengono dettagli del tutto scorretti. Può trattarsi di una legge mai promulgata, di una citazione attribuita all'autore sbagliato, di un indirizzo inesistente o di una funzione software mai sviluppata. Poiché la forma è professionale e autorevole, l'utente tende ad abbassare la guardia, accettando per buone informazioni che non hanno alcun riscontro nei fatti.
Un esempio concreto: la promozione aziendale locale
Immaginiamo un'agenzia di comunicazione di Firenze incaricata di preparare una presentazione per una storica torrefazione artigianale di Lucca. Il copywriter chiede all'assistente virtuale di redigere una breve cronistoria dell'attività, fornendo una bozza confusa di appunti. Il modello produce un testo elegante e fluido, indicando con precisione che la bottega è stata fondata nel 1954 da un certo Mario Bernardi e che ha vinto la medaglia d'oro alla Fiera Campionaria di Milano negli anni Sessanta.
La lettura appare lineare, il tono è coerente e l'aneddoto valorizza il marchio. Tuttavia, consultando la visura camerale e l'archivio dell'azienda, si scopre che il fondatore si chiamava in realtà Giuseppe, la torrefazione ha aperto dieci anni dopo e non ha mai partecipato a quella fiera. Il modello ha semplicemente colmato i vuoti informativi con tessere verosimili tratte dalla sua memoria probabilistica, creando una narrazione plausibile ma interamente fittizia.
Perché i modelli linguistici creano fatti plausibili
I modelli di grandi dimensioni (LLM) non consultano un'enciclopedia interna come farebbe una persona davanti a un archivio. Operano calcolando correlazioni semantiche complesse. Quando il contesto fornito dall'utente è incompleto o quando la domanda contiene un presupposto falso (ad esempio: «Quale trattato firmò Garibaldi a Verona?»), la macchina preferisce completare lo schema narrativo anziché dichiarare la propria ignoranza.
Questo accade anche a causa del modo in cui questi strumenti vengono addestrati. Nei cicli di ottimizzazione con feedback umano, le risposte complete, dettagliate e sicure tendono a ricevere valutazioni migliori rispetto a risposte brevi o dichiarazioni di impossibilità. Di conseguenza, l'algoritmo sviluppa una propensione a completare la risposta a ogni costo, anche quando non possiede dati sufficienti nel proprio contesto immediato.
Come verificare e isolare le allucinazioni
La revisione di un testo generato con l'intelligenza artificiale richiede un approccio metodico e distaccato. Non bisogna limitarsi alla piacevolezza della lettura, ma operare una vera e propria verifica delle fonti.
- Isolare i dati verificabili: individua date, nomi propri, riferimenti normativi, numeri di articoli di legge, cifre di bilancio e collegamenti ipertestuali.
- Validare ogni elemento su fonti primarie: cerca conferme su documenti ufficiali, siti istituzionali, albi professionali o testi scientifici accreditati. Non fidarti dei link inseriti dal modello senza averli aperti, poiché anche gli URL vengono spesso inventati di sana pianta.
- Ricalcolare le formule: se la risposta include medie, percentuali o conversioni di valuta, ripeti i passaggi con un foglio di calcolo. Un modello linguistico non calcola: genera cifre probabili in base al contesto.
- Separare i ruoli nella richiesta: per limitare il problema, imposta vincoli chiari nel prompt. Scrivi istruzioni come: «Usa esclusivamente il testo allegato. Se un'informazione non è presente, rispondi con DATO NON PRESENTE».
L'errore comune: chiedere conferma al modello stesso
Lo sbaglio più frequente consiste nel chiedere al sistema: «Sei sicuro di questo dato?». Nella maggior parte dei casi, il modello risponderà con un'ulteriore conferma entusiastica, inventando una nuova giustificazione per difendere l'affermazione precedente. In alternativa, si scuserà teatralmente per poi proporre un secondo fatto altrettanto privo di fondamento. L'unico controllo valido sulle allucinazioni avviene all'esterno della conversazione, confrontando i testi con la realtà dei fatti e dei documenti primari.
Domande frequenti
Come posso riconoscere un'allucinazione in un testo generato?
Bisogna estrarre ogni affermazione fattuale (date, nomi, citazioni, calcoli) e verificarla singolarmente su fonti esterne affidabili, senza fermarsi all'apparente coerenza e fluidità del testo.
Chiedere all'assistente 'Sei sicuro?' aiuta a correggere l'errore?
No, fare questa domanda non costituisce una verifica indipendente. Il modello tenderà a confermare l'errore con un tono ancora più sicuro o a inventare una spiegazione di supporto altrettanto falsa.
La tecnologia RAG elimina del tutto le allucinazioni?
Il recupero di documenti tramite RAG riduce notevolmente il rischio perché fornisce materiale reale, ma non lo azzera: il modello può comunque interpretare male una tabella o collegare frasi in modo errato.
Le allucinazioni capitano solo quando si parla di argomenti scientifici o storici?
No, possono verificarsi su qualunque tema, inclusi testi banali come la sintesi di un'email aziendale, l'orario di apertura di un ufficio pubblico o l'elenco dei servizi di un hotel.
