Prima regola: la fascia batte il brand
Un modello «migliore» che non entra nella tua memoria è un modello inutile: gira a passo d'uomo o non gira. La scelta sensata parte dalla fascia — quanta memoria puoi mettere in campo — e solo dopo dal modello. Ecco le fasce, con i modelli open-weight concreti di ciascuna.
Fascia leggera (fino a ~8 miliardi di parametri)
La fascia dell'ufficio e del PC normale. Qualità sorprendente per riassunti, estrazioni, bozze e Q&A leggero.
- Llama 3.1 8B — il classico affidabile: ampio ecosistema di tool, comportamento prevedibile.
- Qwen3 8B — ottimo sull'italiano e sul ragionamento nella sua classe.
- Gemma 3 12B — leggermente più grosso, ma gira ancora su 16 GB: il miglior rapporto qualità/carico di questa fascia.
Hardware: 16 GB di RAM anche senza GPU, meglio con 8 GB di VRAM.
Fascia media (~20-32 miliardi)
Qui l'AI in locale smette di essere un esperimento: qualità da lavoro su documenti, RAG serio, più utenti contemporanei.
- Gemma 3 27B e Mistral Small 24B — i cavalli da battaglia europei della fascia.
- Qwen3 32B — il più forte della fascia sul ragionamento strutturato.
- gpt-oss 20B — pensato apposta per girare in locale: compatto per la sua classe.
Hardware: GPU con 16-24 GB di VRAM o workstation con 32 GB. Nel calcolatore trovi le combinazioni già dimensionate.
Fascia alta (70 miliardi e oltre)
Quando la qualità deve avvicinarsi ai modelli di frontiera e l'hardware è un server, non un PC.
- Llama 3.3 70B — il riferimento della fascia, con qualità che un anno fa costava solo via API.
- gpt-oss 120B — la via efficiente alla fascia alta: più qualità per GB di molti concorrenti.
- Qwen3 235B (MoE), DeepSeek V3, Llama 3.1 405B — roba da infrastruttura dedicata: hanno senso in azienda con dimensionamento serio, non sul desktop.
Come scegliere in tre domande
- Che hardware hai (o vuoi comprare)? → detta la fascia. Non il contrario.
- Cosa ci fai? Q&A su documenti e bozze → fascia leggera/media basta. Analisi lunghe e agenti → media/alta.
- In italiano? → nella nostra esperienza Qwen3 e Gemma 3 sono i più solidi per l'italiano nelle fasce basse e medie.
Per i passaggi di installazione c'è la guida completa; per la stima di memoria e costi buy-vs-API il calcolatore; se vuoi la fascia alta senza comprare il server, c'è il piano AI privata su infrastruttura UE.
Domande frequenti
Questi modelli sono gratuiti?
Sì: sono open-weight con licenze permissive (famiglie Llama, Gemma, Mistral, Qwen, gpt-oss). Il costo sta nell'hardware e nella gestione, non nel modello.
Ogni quanto conviene cambiarli?
Le famiglie si rinnovano ogni pochi mesi. La strategia giusta è rimanere sulla fascia giusta per il tuo hardware e aggiornare il modello dentro la fascia, senza inseguire ogni uscita.
Quale per fare domande sui miei documenti?
Con un RAG ben fatto, la fascia media (24-32B) è il punto dolce per documenti aziendali in italiano: qualità sufficiente e costi di hardware ragionevoli. La fascia leggera va bene per archivi piccoli.