Temperatura
Detto anche: temperature, creatività del modello
La temperatura è un parametro che regola quanto sono variabili le risposte di un modello linguistico: valori bassi danno risposte più prevedibili e ripetibili, valori alti risposte più varie e creative. Si imposta soprattutto quando si usa il modello tramite API.
In breve
- Regola quanto variano le risposte.
- Bassa: risposte prevedibili; alta: risposte creative.
- Si imposta soprattutto dalle API.
- Non rende le risposte più vere, solo più o meno varie.
Come agisce la temperatura?
A ogni passo il modello assegna una probabilità a ciascun token possibile. Con temperatura bassa sceglie quasi sempre i più probabili; con temperatura alta dà più possibilità anche a quelli meno probabili, e il testo diventa più vario.
Quale valore usare?
Bassa per estrarre dati, classificare, rispondere su documenti o scrivere codice; più alta per idee, titoli, testi creativi. I valori ammessi dipendono dal fornitore (per esempio da 0 a 1 nelle API di Claude).
Si può cambiare in ChatGPT o Claude?
Nelle app per il pubblico di solito no: la temperatura si regola dalle API o dagli ambienti per sviluppatori. Nelle app si ottiene un effetto simile con il prompt, chiedendo per esempio «proponi dieci alternative molto diverse».
Esempio pratico
Per estrarre importi da 500 fatture si usa una temperatura vicina a 0, così lo stesso documento dà sempre lo stesso risultato. Per trovare 20 nomi per un nuovo prodotto si alza la temperatura e si ottengono proposte più diverse tra loro.
Differenze con Prompt creativo
| Aspetto | Temperatura | Prompt creativo |
|---|---|---|
| Dove si imposta | Parametro tecnico | Testo della richiesta |
| Effetto | Varietà della scelta delle parole | Direzione del contenuto |
| Disponibilità | API e strumenti per sviluppatori | Ovunque |
Domande frequenti
Con temperatura 0 le risposte sono sempre identiche?
Quasi sempre, ma non è garantito: piccole differenze possono restare per motivi tecnici.
Fonti
Vedi anche
- Allucinazione: Un'allucinazione è una risposta di un'intelligenza artificiale che sembra plausibile e sicura ma è falsa o inventata: dati, citazioni, fonti...
- LLM (Large Language Model): Un modello linguistico di grandi dimensioni (in inglese large language model, LLM) è un sistema di intelligenza artificiale addestrato su en...
- Token: Il token è il pezzo di testo con cui un modello linguistico legge e scrive: può essere una parola intera, una parte di parola, un segno di p...