Human in the loop
Detto anche: HITL, persona nel ciclo, supervisione umana, sorveglianza umana
Human in the loop («una persona nel ciclo») è il principio per cui in un processo che usa l'intelligenza artificiale una persona controlla, corregge o approva i risultati nei punti importanti, invece di lasciare che il sistema decida e agisca da solo.
In breve
- Una persona controlla o approva i passaggi importanti.
- Riduce i danni di errori e allucinazioni.
- Fondamentale per gli agenti AI che compiono azioni.
- Richiesto dall'AI Act per i sistemi ad alto rischio.
Dove entra la persona?
Nei punti in cui un errore costerebbe caro: prima di inviare un'email a un cliente, pubblicare un contenuto, approvare un pagamento, prendere una decisione su una persona. Può anche intervenire durante il lavoro, correggendo la direzione, o dopo, valutando i risultati per migliorare il sistema.
Perché è importante con gli LLM?
Perché i modelli possono sbagliare con sicurezza (le allucinazioni) e gli agenti AI possono compiere azioni concrete. Un controllo umano nei punti critici unisce la velocità dell'AI alla responsabilità e al giudizio delle persone.
È un obbligo di legge?
Per i sistemi di AI classificati ad alto rischio sì: l'articolo 14 del regolamento europeo sull'intelligenza artificiale (AI Act) richiede che siano progettati per essere sorvegliati efficacemente da persone, che devono poterli capire, controllare e, se serve, fermare. Per gli altri usi resta una buona pratica.
Human in the loop, on the loop, out of the loop
Si distingue spesso tra persona nel ciclo (approva ogni passaggio importante), sul ciclo (sorveglia e interviene solo se serve) e fuori dal ciclo (il sistema agisce da solo). La scelta dipende dal rischio del compito.
Esempio pratico
Un agente AI prepara le risposte ai reclami dei clienti: legge la richiesta, consulta lo storico degli ordini e scrive la bozza. Prima dell'invio, un operatore la legge e la approva o la corregge; solo i messaggi di semplice conferma partono senza revisione.
Differenze con Automazione completa
| Aspetto | Human in the loop | Automazione completa |
|---|---|---|
| Chi decide nei punti critici | Una persona | Il sistema |
| Velocità | Minore | Massima |
| Adatto a | Compiti con rischi o conseguenze | Compiti semplici e reversibili |
Domande frequenti
Mettere sempre una persona nel ciclo non annulla i vantaggi dell'AI?
No, se il controllo è messo solo dove serve: l'AI prepara il lavoro, la persona decide nei punti importanti in pochi secondi invece di fare tutto da sé.
Come si progetta nei prompt?
Nelle istruzioni di un assistente o di un agente si indica esplicitamente quando fermarsi e chiedere conferma, per esempio prima di inviare, cancellare o pagare.
Fonti
Come lo gestisce Prompt Architect
Nel corso l'AI è sempre uno strumento al servizio di chi la usa: i prompt e i flussi si progettano prevedendo la revisione umana dei risultati prima di usarli.
Vedi anche
- Agente AI: Un agente AI è un sistema in cui un modello linguistico decide da solo quali passi compiere e quali strumenti usare (ricerca sul web, file, ...
- Allucinazione: Un'allucinazione è una risposta di un'intelligenza artificiale che sembra plausibile e sicura ma è falsa o inventata: dati, citazioni, fonti...
- Prompt architect: Il prompt architect progetta e crea mondi e domini di conoscenza per l'AI, sviluppa le architetture AI e sceglie le soluzioni migliori in az...