Le fasce di hardware (le cifre che contano)
Prima regola: il costo dipende dal modello che vuoi far girare. Chi ti vende «l'AI in locale» come pacchetto unico senza chiederti cosa ci deve fare sopra, non ti sta dicendo tutto. Fasce realistiche:
| Setup | Cosa regge | Costo indicativo |
|---|---|---|
| PC usato, 16 GB RAM, senza GPU | Modelli 3–4B: prove, test, carichi leggeri | 300–600 € |
| PC con GPU usata 8–12 GB (es. fascia consumer) | Modelli 7–8B fluidi: l'uso d'ufficio tipico | 700–1.200 € |
| Workstation con GPU 24 GB | Modelli 13–30B: qualità superiore, più utenti | 2.000–4.000 € |
| Server dedicato in UE (noleggio) | Carichi continuativi, senza capitale investito | da ~50–150 €/mese |
Sono fasce di mercato per orientarsi, non preventivi: per i numeri sul TUO modello preferito, il calcolatore AI in locale stima memoria e hardware necessari e confronta buy-vs-API in un colpo solo.
Le voci che quasi tutti dimenticano
- Elettricità. Un sistema con GPU consuma in carico qualche centinaio di watt: a fine anno è una voce reale, non trascurabile se il carico è continuo.
- Tempo di gestione. Aggiornamenti di modelli e tool, riavvii, controllo qualità delle risposte: se nessuno in azienda lo mette a budget, il sistema muore in silenzio.
- Il fallback. Prima o poi serve assistenza: aver previsto da chi è più economico che fermarsi.
Il confronto onesto con le API
L'alternativa al locale è pagare le chiamate a modelli in cloud. La matematica è semplice: con pochi utilizzatori e volume basso, le API costano meno di qualunque hardware e non richiedono gestione. Il locale comincia a vincere quando il volume cresce, quando i dati non devono uscire, o quando la privacy è un requisito non negoziabile — e a quel punto il risparmio sulla singola chiamata è solo metà della storia: l'altra metà è che i tuoi documenti restano tuoi.
Regola pratica: sotto le ~50-100 domande al giorno, valuta le API in UE. Sopra, o con dati sensibili, il locale si ripaga.
E quando non vuoi gestire nulla
Terza via: l'AI privata gestita — modelli open-weight su infrastruttura europea o server tuoi, dimensionati e manutenuti da altri. È l'opzione che Altovar propone con il piano AI privata: i costi diventano un canone prevedibile, e la valutazione iniziale include la stima per il tuo volume di richieste.
Domande frequenti
Conviene comprare la GPU usata?
Spesso sì per partire: le fasce 8–12 GB usate hanno ottimi rapporti qualità/prezzo per modelli 7–8B. Verifica memoria e condizioni prima dell'acquisto.
Quanto si spende di luce al mese?
Dipende dall'uso: per un utilizzo d'ufficio a intermittenza, pochi euro al mese; per carichi continuativi su GPU grosse, la voce cresce e va contata nel calcolo buy-vs-API.
C'è un costo per i modelli?
No: i modelli open-weight (Qwen, Llama, Mistral e simili) si scaricano e usano liberamente. Il costo sta in hardware, energia e gestione.