Modello open weight
Detto anche: modello a pesi aperti, open-weight model, modello con pesi aperti
Un modello linguistico di cui il produttore rende pubblici i pesi, cioè i parametri appresi in addestramento: si può scaricare, eseguire sui propri server e adattare, nei limiti della licenza.
In breve
- I pesi sono i numeri che il modello ha imparato durante l'addestramento.
- Un modello open weight li rende scaricabili.
- Si può eseguire in locale o sul proprio cloud, senza mandare dati a terzi.
- Non sempre è open source in senso pieno: dati e codice di addestramento possono restare riservati.
- Esempi: Llama 2 di Meta, Mistral 7B e Mixtral 8x7B di Mistral AI.
Che cosa sono i pesi di un modello?
Un modello linguistico è, in sostanza, un'enorme raccolta di numeri: i pesi, o parametri, fissati durante l'addestramento. Mixtral 8x7B, per esempio, ne ha 46,7 miliardi. Chi possiede i pesi può far funzionare il modello su un proprio computer o server. Quando un'azienda li pubblica e permette di scaricarli, si parla di modello open weight, a pesi aperti.
Open weight vuol dire open source?
Non necessariamente. Un modello open source in senso pieno renderebbe disponibili anche i dati e il codice di addestramento. Molti modelli open weight pubblicano invece solo i pesi e il codice per usarli. Conta molto anche la licenza: Mixtral 8x7B è distribuito con licenza Apache 2.0, molto permissiva, mentre altri modelli prevedono condizioni d'uso più restrittive. Prima di usarli in azienda va letta con attenzione.
Perché interessa a chi lavora con l'AI?
I vantaggi principali sono tre. Controllo dei dati: il modello gira sulla propria infrastruttura e i testi non escono dall'azienda. Personalizzazione: si può addestrare ulteriormente il modello su un compito specifico. Costi prevedibili, senza dipendere dal listino di un fornitore. Gli svantaggi: servono competenze tecniche e hardware adeguato, e i modelli open weight più diffusi sono spesso meno capaci dei modelli di punta proprietari, accessibili solo via API.
Cambia il modo di scrivere i prompt?
In parte sì. Ogni modello ha il suo formato di istruzioni e risponde in modo diverso agli stessi prompt. Con un modello open weight il prompt va spesso adattato e testato con più cura, ma in cambio si può controllare tutto il sistema: il modello, le istruzioni di base e il modo in cui vengono gestiti i dati.
Esempio pratico
Uno studio legale vuole sintetizzare contratti riservati senza inviarli a servizi esterni. Installa Mixtral 8x7B su un server interno e progetta un prompt fisso: «Riassumi il contratto in 10 punti: parti, oggetto, durata, corrispettivi, penali, recesso. Se un elemento manca, scrivi "non presente"». I documenti non lasciano mai lo studio.
Differenze con Modello proprietario (accessibile via API)
| Aspetto | Modello open weight | Modello proprietario (accessibile via API) |
|---|---|---|
| Accesso | Pesi scaricabili, esecuzione in proprio | Solo tramite API o app del fornitore |
| Dati | Possono restare sui propri server | Passano dai server del fornitore |
| Gestione | Servono hardware e competenze tecniche | Il fornitore gestisce infrastruttura e aggiornamenti |
Domande frequenti
Un modello open weight è gratuito?
Scaricare i pesi è spesso gratuito, ma farli funzionare costa: servono server con GPU adeguate o un servizio cloud. Bisogna anche rispettare la licenza, che può limitare alcuni usi commerciali.
Quali sono i modelli open weight più noti?
Tra i più diffusi ci sono Llama 2 di Meta e i modelli di Mistral AI come Mistral 7B e Mixtral 8x7B, quest'ultimo con licenza Apache 2.0.
Fonti
- Mixtral of experts (2023)
- Au Large (2024)
Vedi anche
- Distillazione: La distillazione è la tecnica con cui un modello di intelligenza artificiale grande e potente (il «maestro») insegna a un modello più piccol...
- LLM (Large Language Model): Un modello linguistico di grandi dimensioni (in inglese large language model, LLM) è un sistema di intelligenza artificiale addestrato su en...
- Token: Il token è il pezzo di testo con cui un modello linguistico legge e scrive: può essere una parola intera, una parte di parola, un segno di p...
- Transformer: Il transformer è l'architettura di rete neurale alla base dei modelli linguistici moderni come GPT, Claude e Gemini. Presentata da ricercato...