Lo stop del Garante a ChatGPT: cosa impara chi progetta con l'AI

Il 30 marzo il Garante per la protezione dei dati personali ha disposto la limitazione provvisoria del trattamento dei dati degli utenti italiani da parte di OpenAI, e il giorno dopo ChatGPT è diventato irraggiungibile dall'Italia. Oggi, 12 aprile, il Garante ha indicato le condizioni per farlo tornare: OpenAI ha tempo fino al 30 aprile. Per chi in queste settimane aveva costruito il proprio lavoro intorno a ChatGPT, compresi gli abbonati Plus che usavano GPT-4, è stata una lezione pratica di architettura.

Che cosa ha contestato il Garante?

Il comunicato del 31 marzo elenca quattro problemi. Il primo è la mancanza di un'informativa per utenti e interessati i cui dati vengono raccolti. Il secondo, il più pesante, è l'assenza di una base giuridica che giustifichi «la raccolta e la conservazione massiccia di dati personali» per addestrare gli algoritmi. Il terzo riguarda l'esattezza: secondo il Garante le informazioni fornite da ChatGPT «non sempre corrispondono al dato reale», il che significa trattare dati personali inesatti. Il quarto è la tutela dei minori, perché mancava qualsiasi filtro sull'età.

Sullo sfondo c'era anche la perdita di dati del 20 marzo, che aveva riguardato le conversazioni degli utenti e alcune informazioni di pagamento degli abbonati.

Dopo un incontro in videoconferenza il 5 aprile, a cui ha partecipato anche Sam Altman, OpenAI si è detta disposta a collaborare. Il provvedimento di oggi chiede un'informativa trasparente, la richiesta di dichiarare la maggiore età prima della registrazione, la scelta del consenso o del legittimo interesse come base giuridica per l'addestramento, strumenti per chiedere la rettifica o la cancellazione dei dati inesatti e una campagna di informazione entro il 15 maggio.

Che cosa c'entra con chi scrive prompt?

Molto più di quanto sembri. Il Garante non ha messo sotto accusa la tecnologia in sé, ma il modo in cui i dati entrano ed escono dal sistema. Ed è il terreno di chi progetta flussi di lavoro con l'AI.

Pensiamo a cosa finisce ogni giorno in un prompt: email dei clienti da riassumere, curriculum da valutare, verbali di riunione, contratti. Sono dati personali che escono dall'azienda e arrivano a un fornitore esterno. Chi usa ChatGPT a tentativi non se ne accorge. Chi progetta un sistema deve chiederselo prima.

Poi c'è il tema dell'esattezza. Le allucinazioni di un modello linguistico non sono solo un problema di qualità: quando riguardano una persona reale diventano un dato personale inesatto. Un prompt che chiede «scrivi la biografia professionale di Mario Rossi» senza fornire alcuna fonte invita il modello a inventare.

Quattro lezioni per progettare meglio

• Minimizzare i dati nel prompt. Prima di incollare un testo, si tolgono nomi, indirizzi e riferimenti che non servono al compito.
• Dare le fonti, non chiedere ricordi. Quando il compito riguarda persone o aziende reali, il testo di riferimento va fornito nel prompt e il modello deve lavorare solo su quello.
• Non dipendere da un unico strumento. Prompt scritti come procedure documentate, fuori dalla cronologia delle chat, si possono riprovare su altri servizi quando uno strumento si ferma.
• Lasciare una persona nel ciclo. Ogni output che riguarda dati personali o decisioni su persone va riletto da qualcuno: è il principio dell'human in the loop, e oggi diventa anche una forma di tutela.

Un esempio pratico

Ecco un prompt di preparazione che si può mettere davanti a qualsiasi compito che parte da documenti con dati personali:

Ti incollo il testo di una email di un cliente. Prima di fare qualsiasi altra cosa, sostituisci nomi di persona, email, numeri di telefono e indirizzi con segnaposto come [CLIENTE], [EMAIL], [TELEFONO]. Poi riassumi la richiesta in tre punti, usando solo le informazioni presenti nel testo. Se un'informazione manca, scrivi «non indicato» invece di dedurla.

Attenzione però: anche così il testo originale arriva comunque al fornitore. L'anonimizzazione vera va fatta prima, a monte, con uno strumento interno o a mano. Il prompt aiuta a non propagare i dati nei passaggi successivi del flusso.

Cosa aspettarsi da qui al 30 aprile

Se OpenAI adotterà le misure richieste, il Garante sospenderà la limitazione e ChatGPT tornerà accessibile. Ma il punto non cambia: ogni strumento di AI generativa tratta dati, e prima o poi qualcuno chiederà come.

Per chi progetta con l'AI il consiglio è semplice. Scrivete accanto a ogni prompt importante una riga che dica quali dati usa, da dove arrivano e chi controlla il risultato. È un'abitudine da architetti: si decide prima dove passano i tubi, non dopo averli murati.

Fonti

• Garante per la protezione dei dati personali, Intelligenza artificiale: il Garante blocca ChatGPT. Raccolta illecita di dati personali. Assenza di sistemi per la verifica dell’età dei minori, 31 marzo 2023
• TechCrunch, Italy orders ChatGPT blocked citing data protection concerns, 31 marzo 2023
• Garante per la protezione dei dati personali, ChatGPT: OpenAI collabora con il Garante privacy con impegni per tutelare gli utenti italiani, 6 aprile 2023
• Garante per la protezione dei dati personali, ChatGPT: Garante privacy, limitazione provvisoria sospesa se OpenAI adotterà le misure richieste, 12 aprile 2023