GUIDA · MODELLI

I migliori LLM da girare in locale (per fascia, non per moda)

«Qual è il miglior LLM in locale?» ha una risposta onesta: dipende dalla macchina e da cosa ci devi fare. Qui la selezione per fascia — gli stessi modelli che mettiamo nel nostro calcolatore di hardware — con l'uso tipico di ciascuno e la memoria che serve.

Aggiornata a settembre 2026
7 min di lettura
Redazione Tecnica Altovar

Prima regola: la fascia batte il brand

Un modello «migliore» che non entra nella tua memoria è un modello inutile: gira a passo d'uomo o non gira. La scelta sensata parte dalla fascia — quanta memoria puoi mettere in campo — e solo dopo dal modello. Ecco le fasce, con i modelli open-weight concreti di ciascuna.

Fascia leggera (fino a ~8 miliardi di parametri)

La fascia dell'ufficio e del PC normale. Qualità sorprendente per riassunti, estrazioni, bozze e Q&A leggero.

  • Llama 3.1 8B — il classico affidabile: ampio ecosistema di tool, comportamento prevedibile.
  • Qwen3 8B — ottimo sull'italiano e sul ragionamento nella sua classe.
  • Gemma 3 12B — leggermente più grosso, ma gira ancora su 16 GB: il miglior rapporto qualità/carico di questa fascia.

Hardware: 16 GB di RAM anche senza GPU, meglio con 8 GB di VRAM.

Fascia media (~20-32 miliardi)

Qui l'AI in locale smette di essere un esperimento: qualità da lavoro su documenti, RAG serio, più utenti contemporanei.

  • Gemma 3 27B e Mistral Small 24B — i cavalli da battaglia europei della fascia.
  • Qwen3 32B — il più forte della fascia sul ragionamento strutturato.
  • gpt-oss 20B — pensato apposta per girare in locale: compatto per la sua classe.

Hardware: GPU con 16-24 GB di VRAM o workstation con 32 GB. Nel calcolatore trovi le combinazioni già dimensionate.

Fascia alta (70 miliardi e oltre)

Quando la qualità deve avvicinarsi ai modelli di frontiera e l'hardware è un server, non un PC.

  • Llama 3.3 70B — il riferimento della fascia, con qualità che un anno fa costava solo via API.
  • gpt-oss 120B — la via efficiente alla fascia alta: più qualità per GB di molti concorrenti.
  • Qwen3 235B (MoE), DeepSeek V3, Llama 3.1 405B — roba da infrastruttura dedicata: hanno senso in azienda con dimensionamento serio, non sul desktop.

Come scegliere in tre domande

  1. Che hardware hai (o vuoi comprare)? → detta la fascia. Non il contrario.
  2. Cosa ci fai? Q&A su documenti e bozze → fascia leggera/media basta. Analisi lunghe e agenti → media/alta.
  3. In italiano? → nella nostra esperienza Qwen3 e Gemma 3 sono i più solidi per l'italiano nelle fasce basse e medie.

Per i passaggi di installazione c'è la guida completa; per la stima di memoria e costi buy-vs-API il calcolatore; se vuoi la fascia alta senza comprare il server, c'è il piano AI privata su infrastruttura UE.

Domande frequenti

Questi modelli sono gratuiti?

Sì: sono open-weight con licenze permissive (famiglie Llama, Gemma, Mistral, Qwen, gpt-oss). Il costo sta nell'hardware e nella gestione, non nel modello.

Ogni quanto conviene cambiarli?

Le famiglie si rinnovano ogni pochi mesi. La strategia giusta è rimanere sulla fascia giusta per il tuo hardware e aggiornare il modello dentro la fascia, senza inseguire ogni uscita.

Quale per fare domande sui miei documenti?

Con un RAG ben fatto, la fascia media (24-32B) è il punto dolce per documenti aziendali in italiano: qualità sufficiente e costi di hardware ragionevoli. La fascia leggera va bene per archivi piccoli.

Nota sul contenuto

Guida informativa di carattere generale. Norme e requisiti tecnici cambiano nel tempo: verifica sempre le fonti ufficiali e valuta il tuo caso specifico con un consulente tecnico o legale qualificato.

CONTATTACI

Parla con il nostro team.

Mostriamo come Altovar si integra nella tua infrastruttura. Nessun impegno, nessun sales pitch. Solo una conversazione tecnica.

PRENOTA UNA DEMO →