Allucinazione
Detto anche: allucinazione dell'AI, hallucination, confabulazione
Un'allucinazione è una risposta di un'intelligenza artificiale che sembra plausibile e sicura ma è falsa o inventata: dati, citazioni, fonti, sentenze o funzioni di un prodotto che non esistono. È uno dei limiti più importanti dei modelli linguistici.
In breve
- Risposta plausibile ma falsa o inventata.
- Nasce perché il modello genera testo probabile, non verificato.
- Si riduce dando documenti e permettendo il «non lo so».
- Non si elimina: le risposte vanno controllate.
Perché un'AI inventa le risposte?
Un modello linguistico produce il testo più probabile, non controlla la verità di quello che scrive. Quando non ha l'informazione, tende comunque a completare la frase in modo convincente, invece di dire «non lo so».
Come si riducono le allucinazioni?
Con prompt che danno al modello i documenti su cui basarsi e gli chiedono di usare solo quelli; con il permesso esplicito di rispondere «non lo so»; chiedendo di citare il passaggio da cui prende ogni affermazione; e verificando sempre dati, nomi e fonti prima di usarli.
Si possono eliminare del tutto?
No, si possono solo ridurre. Per questo chi usa l'AI nel lavoro resta responsabile del controllo dei contenuti, come ricordano anche le regole europee sull'intelligenza artificiale.
Esempio pratico
Chiedendo «Citami tre sentenze della Cassazione sul tema», un modello può fornire numeri e date dall'aspetto credibile ma inesistenti. Con il testo delle sentenze allegato e l'istruzione «rispondi solo in base a questi documenti, altrimenti dimmi che non lo trovi» il rischio cala molto.
Differenze con Errore di calcolo
| Aspetto | Allucinazione | Errore di calcolo |
|---|---|---|
| Come si presenta | Convincente e ben scritto | Spesso evidente |
| Causa | Generazione del testo più probabile | Passaggio sbagliato |
| Come si scopre | Verificando le fonti | Rifacendo il calcolo |
Domande frequenti
I modelli più recenti allucinano meno?
In genere sì, soprattutto quando possono consultare documenti o il web, ma il fenomeno non scompare.
Abbassare la temperatura evita le allucinazioni?
Rende le risposte più prevedibili, non più vere: serve soprattutto dare al modello le informazioni corrette.
Fonti
Come lo gestisce Prompt Architect
Nel corso si imparano prompt che chiedono al modello di basarsi su fonti date, di dichiarare quando non sa e di distinguere i fatti dalle ipotesi.
Vedi anche
- LLM (Large Language Model): Un modello linguistico di grandi dimensioni (in inglese large language model, LLM) è un sistema di intelligenza artificiale addestrato su en...
- RAG (Retrieval-Augmented Generation): La generazione aumentata dal recupero (in inglese retrieval-augmented generation, RAG) è una tecnica in cui, prima di rispondere, il sistema...
- Temperatura: La temperatura è un parametro che regola quanto sono variabili le risposte di un modello linguistico: valori bassi danno risposte più preved...