I GPT personalizzati: ognuno può costruire il proprio assistente

Lunedì 6 novembre, a San Francisco, OpenAI ha tenuto la sua prima conferenza per sviluppatori, il DevDay. Gli annunci sono stati molti, ma uno riguarda da vicino chiunque scriva prompt per lavoro: con i GPT ognuno potrà costruire una versione di ChatGPT su misura, senza scrivere una riga di codice, e condividerla con altri.

Che cosa ha annunciato OpenAI

In sintesi, le novità principali:

• GPT-4 Turbo, una nuova versione di GPT-4 con una finestra di contesto di 128.000 token (circa 100.000 parole, quattro volte quella di GPT-4), conoscenze aggiornate ad aprile 2023 e prezzi più bassi: 0,01 dollari ogni mille token in ingresso e 0,03 in uscita.
• I GPT, versioni personalizzate di ChatGPT che gli utenti possono creare per sé, per la propria azienda o per tutti.
• Un GPT Store, previsto entro la fine del mese, dove pubblicare i GPT; in futuro i creatori potranno guadagnare in base a quante persone li usano.
• L'Assistants API, per gli sviluppatori che vogliono costruire assistenti capaci di recuperare informazioni esterne e chiamare funzioni.

Che cos'è un GPT

Un GPT personalizzato è ChatGPT con un ruolo fisso. Secondo OpenAI, crearne uno è facile come avviare una conversazione: si dialoga con il GPT Builder, gli si danno istruzioni e conoscenze aggiuntive, e si sceglie che cosa può fare, per esempio cercare sul web, creare immagini o analizzare dati. Gli sviluppatori possono aggiungere «azioni» che collegano il GPT a servizi esterni, come un database o una casella email. Le aziende con ChatGPT Enterprise potranno creare GPT riservati all'uso interno. Per ora i GPT sono disponibili per gli abbonati Plus ed Enterprise.

Negli esempi mostrati da OpenAI compaiono un coach di scrittura, un aiuto cuoco, un tutor di matematica: assistenti con un compito preciso, sempre pronti allo stesso modo.

Perché è una svolta per chi progetta prompt

Finora un buon prompt viveva in un documento da copiare e incollare. Ars Technica lo ha descritto bene: passare da un ruolo all'altro con le istruzioni personalizzate, introdotte a luglio, era scomodo e richiedeva spesso di incollare testi da fuori. Il GPT trasforma il prompt in un piccolo prodotto: un system prompt stabile, più i documenti di riferimento, più gli strumenti.

È esattamente il passaggio dal singolo prompt al sistema. Chi in questi mesi ha costruito librerie di prompt per il proprio gruppo di lavoro ora può impacchettarle in assistenti che i colleghi usano senza sapere come sono fatti dentro. Ed è qui che serve il progetto: un GPT scritto in fretta replica i difetti del prompt da cui nasce, ma li moltiplica per tutte le persone che lo usano.

Come progettare un buon GPT

Un esempio di istruzioni per un assistente interno che rivede le offerte commerciali:

Sei il revisore delle offerte commerciali dell'azienda. Quando l'utente carica un'offerta, controlla nell'ordine: 1) che prezzi e condizioni corrispondano al listino allegato; 2) che il tono segua la guida di stile allegata; 3) che ci siano la scadenza dell'offerta e i riferimenti del commerciale. Restituisci una tabella con tre colonne: punto, esito, correzione proposta. Se un'informazione manca nei documenti allegati, chiedila invece di inventarla. Non riscrivere l'offerta al posto dell'utente.

Qualche regola che vale per ogni GPT:

• Un compito, non dieci. Un assistente che fa tutto non fa niente bene. Meglio tre GPT specializzati che uno generico.
• Dite anche cosa non deve fare. I limiti sono parte del progetto quanto le istruzioni.
• Curate le conoscenze. Caricate pochi documenti aggiornati e puliti, non l'intero archivio: il GPT darà per buono tutto quello che trova.
• Pensate a chi lo userà. Nelle istruzioni e nei file non mettete nulla che non mostrereste a tutti gli utenti: un utente insistente potrebbe farselo rivelare, come insegnano i casi di prompt injection.

Il consiglio operativo

Prima di aprire il GPT Builder, scrivete su una pagina la scheda del vostro assistente: per chi è, quale compito svolge, che cosa riceve in ingresso, che cosa restituisce, quali limiti ha. Poi preparate dieci casi reali con il risultato atteso e provateli dopo ogni modifica alle istruzioni. Infine date al GPT un responsabile: qualcuno che raccolga le segnalazioni dei colleghi e lo aggiorni nel tempo.

I GPT rendono facile costruire un assistente. Costruirne uno che funzioni bene, per molte persone e per mesi, resta un lavoro di architettura.

Fonti

• Ars Technica, OpenAI introduces custom AI assistants called "GPTs" that play different roles, 6 novembre 2023
• TechCrunch, Everything announced at OpenAI's first developer event, 6 novembre 2023