Claude in 95 paesi, ma non in Italia: prompt per lavorare su documenti lunghi
· 4 min di lettura
Scritto con l'intelligenza artificiale
Dal 16 ottobre claude.ai è aperto in 95 paesi, ma nessuno dell'Unione europea. Le tecniche di Anthropic per i documenti lunghi valgono comunque per tutti: prima le citazioni, poi la risposta.
Lunedì 16 ottobre Anthropic ha aperto claude.ai, l'assistente basato su Claude 2, agli utenti di 95 paesi, sia nella versione gratuita sia con l'abbonamento Claude Pro. In Italia molti hanno sperato che fosse la volta buona, ma scorrendo l'elenco la delusione è arrivata presto: ci sono Stati Uniti, Regno Unito, Giappone, India, Corea del Sud e Messico, ma nessun paese dell'Unione europea. L'Italia, per ora, resta fuori.
Ha senso parlarne lo stesso? Sì, perché Claude ha una caratteristica che oggi lo distingue da tutti gli altri, e perché le tecniche che Anthropic ha appena pubblicato valgono per chiunque lavori con testi lunghi.
Che cosa è successo
Claude 2 è stato presentato l'11 luglio insieme al sito claude.ai, aperto allora solo negli Stati Uniti e nel Regno Unito. Anthropic aveva promesso di rendere Claude disponibile in più paesi «nei prossimi mesi». L'espansione di questa settimana mantiene la promessa solo in parte: 95 paesi, ma per chi vive nell'Unione europea l'accesso al sito resta chiuso.
Perché Claude interessa a chi lavora con i documenti
Il punto di forza di Claude è la finestra di contesto: 100.000 token, circa 75.000 parole secondo Anthropic. In una sola richiesta si possono caricare centinaia di pagine: un bilancio annuale, un contratto con tutti gli allegati, la documentazione tecnica di un prodotto. Quando a maggio Anthropic ha annunciato questa capacità, ha mostrato un esempio efficace: ha caricato l'intero testo del Grande Gatsby, ha modificato una sola riga e ha chiesto al modello di trovare la differenza.
Gli usi proposti dall'azienda sono molto concreti: analizzare i rischi e le opportunità di una società a partire dai bilanci, valutare pro e contro di una legge, individuare temi e rischi nei documenti legali, trovare risposte dentro centinaia di pagine di documentazione.
Più testo non significa risposte migliori
Una finestra grande, da sola, non basta. Il 23 settembre Anthropic ha pubblicato uno studio su come aiutare Claude a ritrovare un'informazione precisa dentro un documento lungo. Le indicazioni sono preziose:
- Estrarre prima le citazioni. Chiedere al modello di copiare in uno spazio di lavoro (lo «scratchpad») i passaggi pertinenti, e solo dopo rispondere, migliora l'accuratezza in tutti i confronti, con un piccolo costo in tempo.
- Dare esempi presi dal documento. Aggiungere domande già risolte su altre parti dello stesso testo aiuta, e più esempi aiutano di più. Gli esempi generici, su conoscenze esterne al documento, invece non sembrano servire.
- La posizione conta. Le prestazioni cambiano a seconda di dove si trova l'informazione: per Claude 2, su testi di 95.000 token, c'è un piccolo calo quando il passaggio utile sta a metà.
Nel caso migliore, il solo lavoro sul prompt ha portato l'accuratezza a 0,961: in valore assoluto il salto sembra piccolo, ma corrisponde a una riduzione degli errori del 36%. È la dimostrazione che progettare il prompt conta anche quando il modello è già molto capace.
Un modello di prompt per documenti lunghi
Ecco una struttura che mette insieme queste indicazioni. Il documento sta in alto, delimitato in modo chiaro; la domanda arriva in fondo; il modello lavora in due tempi.
Qui sotto trovi il contratto di fornitura, racchiuso tra i tag `<documento>` e `</documento>`.
`<documento>` {testo del contratto} `</documento>`
Ecco un esempio di domanda e risposta su un'altra clausola dello stesso contratto: {esempio}
Domanda: quali penali sono previste in caso di ritardo nella consegna?
Prima copia tra i tag `<citazioni>` i passaggi del contratto che riguardano la domanda, parola per parola. Poi, tra i tag `<risposta>`, rispondi basandoti solo su quelle citazioni. Se il contratto non contiene la risposta, scrivilo chiaramente.
L'ultima riga è la più importante: obbliga il modello ad ancorare la risposta al testo e riduce il rischio di allucinazioni. Le citazioni, inoltre, permettono a chi legge di controllare la risposta in pochi secondi, senza rileggere tutto il documento.
Il consiglio operativo
Chi in Italia vuole lavorare oggi con documenti lunghi ha due strade: aspettare l'arrivo di Claude, oppure dividere i testi in parti più piccole e farle elaborare una alla volta da altri modelli. In entrambi i casi conviene preparare fin da ora i prompt con questa struttura in due tempi, prima le citazioni e poi la risposta. La struttura si può provare anche con modelli dalla finestra più piccola, osservando se le citazioni riportate esistono davvero nel testo, e intanto trasforma un'abitudine personale in un procedimento ripetibile, da condividere con il resto del gruppo.
Il metodo vale più dello strumento. Quando Claude sarà disponibile anche da noi, chi avrà già costruito questi modelli di prompt potrà usarlo dal primo giorno.
Fonti
- Anthropic, Introducing 100K context windows, 11 maggio 2023
- Anthropic, Claude 2, 11 luglio 2023
- Anthropic, Prompt engineering for Claude's long context window, 23 settembre 2023
- Analytics India Magazine, Anthropic Expands Claude's Services Across 95 Nations, 17 ottobre 2023