AI Index 2025 di Stanford: costi in calo, uso in crescita

· 4 min di lettura

Scritto con l'intelligenza artificiale

Il rapporto annuale di Stanford HAI mostra un costo di inferenza sceso di oltre 280 volte e il 78% delle organizzazioni che usa l'AI. Per chi progetta con i prompt cambia il criterio: conviene scomporre e controllare.

Ogni primavera lo Stanford Institute for Human-Centered AI pubblica l'AI Index, il rapporto che prova a misurare con i dati lo stato dell'intelligenza artificiale. L'edizione 2025 è uscita il 7 aprile e racconta due curve che si incrociano: quanto costa usare un modello scende a picco, quanto lo usano le aziende sale in fretta.

Per chi progetta sistemi con l'AI è la notizia più importante dell'anno, più di qualsiasi nuovo modello.

Quanto è sceso davvero il costo?

Il dato che ha fatto il giro del mondo riguarda l'inferenza, cioè il prezzo di ogni risposta. Interrogare un modello con prestazioni pari a GPT-3.5 costava 20 dollari per milione di token nel novembre 2022; nell'ottobre 2024 ne bastavano 0,07. Una riduzione di oltre 280 volte in meno di due anni.

Anche le dimensioni raccontano la stessa storia. Nel 2022, per superare il 60% nel test MMLU serviva un modello da 540 miliardi di parametri; nel 2024 ci è riuscito Phi-3-mini di Microsoft, con 3,8 miliardi. Lo stesso livello con un modello 142 volte più piccolo.

E si accorcia la distanza tra modelli aperti e chiusi: su alcuni test il divario è passato dall'8% all'1,7% in un anno. Anche i modelli cinesi sono arrivati quasi alla pari con quelli americani su prove come MMLU e HumanEval, anche se gli Stati Uniti restano avanti per numero: 40 modelli rilevanti nel 2024 contro i 15 della Cina e i 3 dell'Europa.

E l'uso nelle aziende?

Qui la curva va nella direzione opposta. Il 78% delle organizzazioni dichiara di usare l'AI nel 2024, contro il 55% dell'anno prima, e l'uso dell'AI generativa è più che raddoppiato, al 71%. Gli investimenti privati negli Stati Uniti hanno toccato 109 miliardi di dollari, quasi dodici volte quelli cinesi.

Il rapporto registra però anche il rovescio: gli incidenti legati all'AI censiti nel 2024 sono stati 233, un record e il 56,4% in più rispetto al 2023. Più uso significa anche più errori visibili, e più occasioni per farli.

Gli agenti: bravi sullo scatto, meno sulla distanza

Un passaggio merita attenzione. Il rapporto confronta sistemi AI ed esperti umani su compiti complessi con tempi diversi. Con due ore a disposizione i migliori sistemi ottengono punteggi quattro volte superiori a quelli umani; con 32 ore sono gli umani a prevalere, due a uno.

È la fotografia di oggi degli agenti AI: velocissimi sui compiti brevi e ben definiti, fragili quando il lavoro si allunga e richiede di tenere il filo. Per chi scrive prompt l'indicazione è chiara: un compito lungo affidato in blocco rischia di perdere coerenza a metà strada, mentre un compito diviso in tappe brevi gioca sul terreno dove questi sistemi sono più forti.

Cosa cambia per chi progetta con l'AI

Se ogni chiamata costa pochissimo, il criterio di progettazione cambia. Fino a ieri si cercava il prompt unico, perfetto, perché ogni passaggio aveva un prezzo. Oggi conviene spezzare il lavoro in più passaggi e aggiungere controlli, perché un passaggio in più non pesa più sul bilancio.

Tre indicazioni pratiche:

Un esempio di prompt di controllo da mettere in coda a una catena:

Rileggi la risposta qui sopra. Elenca ogni dato numerico e indica da quale parte del documento di partenza proviene. Se un dato non compare nel documento, segnalalo come «non verificato» e non correggerlo da solo.

È un passaggio che due anni fa sarebbe sembrato uno spreco. Oggi è semplice buon senso.

Il punto

L'AI Index 2025 dice che la potenza di calcolo non è più il collo di bottiglia per la maggior parte delle aziende. Lo diventano la progettazione e il controllo: decidere quali compiti affidare all'AI, come dividerli, dove mettere una persona a verificare. Il costo del singolo prompt si avvicina allo zero; il valore si sposta tutto nell'architettura che lo contiene.

Fonti

#Scenari e trend