AI Security Specialist
Detto anche: Specialista di Sicurezza IA, AI security, sicurezza dell'intelligenza artificiale
Specialista di sicurezza IA: protegge i sistemi di intelligenza artificiale da attacchi e abusi e ne presidia l'integrità lungo tutto il ciclo di vita. È il nono dei 12 profili della norma UNI 11621-8:2026.
In breve
- Nono dei 12 profili IA della UNI 11621-8:2026.
- Protegge i sistemi di IA da attacchi, abusi e perdita di dati.
- Presidia prompt injection, avvelenamento dei dati, abuso di permessi.
- Applica il privilegio minimo e traccia le azioni degli agenti.
- La verifica è continua, non un collaudo una volta sola.
Che cosa fa un AI Security Specialist?
Presidia rischi e vulnerabilità specifici dei sistemi di IA, che si aggiungono a quelli della sicurezza informatica tradizionale. Analizza le minacce, verifica le difese con prove avversarie, definisce i controlli e sorveglia il comportamento dei sistemi in esercizio.
I rischi tipici: prompt injection, cioè istruzioni ostili nascoste nei contenuti che il modello legge; estrazione di dati riservati o di istruzioni di sistema; avvelenamento dei dati di addestramento; abuso dei permessi concessi agli agenti che agiscono su sistemi reali; dipendenze non verificate nella catena di fornitura dei modelli. Il principio guida è il privilegio minimo: a un sistema di IA si danno solo i permessi che servono e si tracciano le azioni che compie.
Che cosa dice la norma UNI 11621-8:2026?
È il nono dei 12 profili della UNI 11621-8:2026, pubblicata il 30 aprile 2026 dalla commissione UNI/CT 526 di UNINFO con il coordinamento del Dipartimento per la trasformazione digitale. Per ogni profilo sono specificati missione, compiti, risultati attesi, competenze, conoscenze, abilità e KPI, secondo la metodologia UNI 11621-1 e in allineamento all'e-CF (UNI EN 16234-1). Il testo è a pagamento: la descrizione dei compiti riflette la prassi di mercato.
Perché non basta la sicurezza informatica classica?
Perché cambia la superficie di attacco: l'input è linguaggio naturale e il confine tra dati e istruzioni si fa poroso. Un documento, una pagina web o una email possono contenere comandi che il modello esegue. Per i sistemi ad alto rischio l'AI Act richiede robustezza e cibersicurezza per tutto il ciclo di vita, quindi la verifica non è un collaudo iniziale ma un presidio continuo.
Esempio pratico
Un ente attiva un assistente che legge le email dei clienti e prepara le risposte. L'AI Security Specialist prova a inserire in una email una frase nascosta che chiede all'assistente di inoltrare l'elenco degli iscritti. Verificato che il tentativo funziona, toglie all'assistente il permesso di inviare messaggi, filtra i contenuti in ingresso, impone che ogni risposta sia approvata da un operatore e registra in un log le richieste anomale.
Differenze con La sicurezza informatica protegge sistemi e reti, qui si aggiungono gli attacchi che passano dal linguaggio.
| Aspetto | AI Security Specialist | La sicurezza informatica protegge sistemi e reti, qui si aggiungono gli attacchi che passano dal linguaggio. |
|---|---|---|
| Superficie di attacco | Anche prompt, dati di addestramento, permessi degli agenti | Reti, sistemi, applicazioni, credenziali |
| Minacce tipiche | Prompt injection, avvelenamento, estrazione di dati | Malware, intrusioni, phishing |
| Verifica | Prove avversarie sul comportamento del modello | Test di vulnerabilità e penetrazione |
Domande frequenti
Si può eliminare del tutto la prompt injection?
Allo stato dell'arte no: si riduce il danno possibile limitando i permessi, separando i contenuti non fidati, chiedendo conferma umana per le azioni irreversibili e registrando quello che il sistema fa.
Serve una figura dedicata in un'organizzazione piccola?
Non necessariamente a tempo pieno: le competenze possono stare in capo a chi già presidia la sicurezza informatica, purché vengano aggiunte quelle specifiche dell'IA. La norma descrive un profilo, non un organigramma obbligatorio.
Fonti
Vedi anche
- Agente AI: Un agente AI è un sistema in cui un modello linguistico decide da solo quali passi compiere e quali strumenti usare (ricerca sul web, file, ...
- AI Act: Il Regolamento (UE) 2024/1689, la legge europea sull'intelligenza artificiale: classifica i sistemi di IA per livello di rischio e fissa div...
- Human in the loop: Human in the loop («una persona nel ciclo») è il principio per cui in un processo che usa l'intelligenza artificiale una persona controlla, ...
- Prompt injection: La prompt injection è un attacco in cui qualcuno inserisce istruzioni nascoste o ingannevoli nel testo che un'AI legge, per farle ignorare l...