12 novembre 2026 · Team VRAMfarm

LLM tuo o API: quando una GPU a noleggio costa meno che pagare a token

L’errore più comune in questo calcolo è dividere il prezzo orario della GPU per i suoi token al secondo nel caso migliore. A pieno carico una RTX 5090 produce un milione di token da un modello da 32B per circa 0,35 €, e sembra imbattibile. Ma nessuno tiene una scheda a pieno carico per tutto il mese. Al 5% di utilizzo lo stesso milione costa 7,04 €, più di quanto chiedono i modelli aperti in hosting e le piccole API proprietarie. Il tuo modello su una GPU a noleggio vince sul prezzo quando la scheda è occupata: grandi lavori batch e traffico costante. Perde sul prezzo con un uso occasionale e a picchi, dove un’API non ti fa pagare nulla tra una richiesta e l’altra. Privacy, un modello addestrato da te o un modello che nessuna API offre possono rendere la tua GPU la scelta giusta anche quando costa di più.

Due formule e un’ipotesi

GPU tua al mese = ore di funzionamento del server × prezzo orario, più il traffico per i download dei modelli e, se tieni dei file, la cartella salvata a 0,03 € per GB al mese. I token non cambiano il conto; le ore sì.

API al mese = token × prezzo per milione. Qui le ore non contano.

L’ipotesi è il prezzo dell’API. Le tariffe variano di due ordini di grandezza, quindi gli scenari usano tre fasce arrotondate, medie per un mix tipico di token di input e output in chat, a novembre 2026:

Sono intervalli per pianificare, non il listino di un fornitore. Sostituiscili con la tariffa che paghi davvero. I modelli di ragionamento fatturano i token del ragionamento come output, e questo può moltiplicare da due a cinque volte i token di una risposta visibile; vale anche per la tua GPU, in tempo invece che in denaro.

Quattro scenari mensili

Ogni cifra per la GPU tua usa il prezzo attuale in tempo reale della scheda, quindi si muove con il catalogo.

1. Una persona, un assistente per codice e scrittura. 40 scambi al giorno da circa 3.000 token ciascuno (la conversazione viene rimandata a ogni domanda) fanno 2,6 milioni di token in 22 giorni lavorativi. GPU tua: Qwen3 32B su una RTX 4090, quattro ore al giorno, 88 ore.

2. Un team di dieci in orario d’ufficio. Dieci utenti così, 26 milioni di token al mese. GPU tua: una RTX 4090 con Qwen3 32B, 9 ore al giorno per 22 giorni, 198 ore.

3. Un chatbot di prodotto, giorno e notte. 300 milioni di token al mese, in media circa 115 token al secondo con picchi parecchie volte più alti. GPU tua: Qwen3 32B a 4 bit con vLLM su una RTX 5090, 730 ore.

4. Un lavoro batch. Riassumere 200.000 documenti da 2.000 token ciascuno in riassunti da 200 token: 400 milioni di token di input e 40 milioni di output. GPU tua: Qwen3 32B in FP8 con vLLM su una H100, circa 18 ore, e comunque da 12 a 30 a seconda della lunghezza dei documenti e della versione di vLLM. Leggere l’input è molto più veloce che scrivere l’output, circa 5.000–12.000 token di input al secondo su questa scheda, e i 40 milioni di token di output arrivano da molte richieste parallele a 1.500–4.000 token al secondo.

Cosa dice la tabella:

• Una persona: un’API o un abbonamento a una chat vincono con largo margine. Noleggia una GPU solo se i dati non devono lasciare una macchina che controlli tu.
• Un team: la tua GPU finisce nella fascia delle migliori API proprietarie e costa più di quelle piccole e dei modelli aperti in hosting. A decidere è la privacy, non il prezzo. La guida al ChatGPT privato mostra la configurazione proprio per questo caso.
• Un bot 24/7: a questo volume la tua GPU costa chiaramente meno delle migliori API proprietarie, più o meno come quelle piccole, e più dei modelli aperti in hosting, perché quei fornitori riempiono le loro schede con il traffico di molti clienti e tu riempi la tua con uno solo.
• Un lavoro batch: la tua GPU arriva al livello delle API più economiche per modelli aperti o sotto, e molto sotto quelle proprietarie. Qui noleggiare è nettamente la strada più economica.

L’utilizzo decide il prezzo per token

Il costo di un milione di token sulla tua scheda è il prezzo orario diviso per i milioni di token che produce in un’ora effettivamente usata. Prendi Qwen3 32B a 4 bit su una RTX 5090 con vLLM, circa 600 token di output al secondo con molte richieste parallele, cioè 2,16 milioni all’ora:

Il throughput è un intervallo indicativo ricavato da report della community e dal calcolo sulla banda, quindi la prima riga potrebbe essere la metà o il doppio; la forma non cambia. Una scheda più grande abbassa il costo per token solo se riesci a tenerla occupata. Una H100 inattiva è una scheda inattiva costosa. L’articolo sul costo per milione di token elenca le tariffe a pieno carico per 8B, 32B e 70B su diverse schede.

Tre cose alzano l’utilizzo senza spendere di più. Fai girare i lavori batch quando l’uso interattivo è basso, sullo stesso server. Manda le richieste in parallelo invece che una dopo l’altra; vLLM è fatto per questo, Ollama molto meno, come spiega il confronto tra runtime. E ferma il server quando non serve a nessuno: la fatturazione si ferma in quel minuto.

Costi che si dimenticano, da entrambe le parti

Sulla tua GPU:

• Download dei modelli. Un modello da 32B a 4 bit pesa circa 20 GB, un 70B in FP8 circa 71 GB. I download si pagano come traffico alla tariffa per GB della macchina indicata prima dell’avvio, più i minuti che richiedono.
• Il minimo. Ogni avvio viene fatturato per almeno 15 minuti, quindi dieci test brevi al giorno su avvii separati costano dieci minimi.
• Ore di inattività. Un server dimenticato acceso di notte su una RTX 4090 costa 5,90 € per dieci ore. La protezione dall’inattività ti manda un’email dopo 2 ore senza connessioni né carico sulla GPU e ferma il server un’ora dopo, ma per un servizio 24/7 la disattivi, e a quel punto le ore di inattività devi tenerle d’occhio tu.
• Il tuo tempo. Scegliere un modello, configurare vLLM, monitorare. Per un team di dieci sono poche ore una tantum; per un prodotto è lavoro continuo.
• Un piano di riserva. Un server è una macchina. Decidi cosa fa il tuo prodotto se sparisce: un’API su cui ripiegare, o uno script che avvia un sostituto.

Sull’API:

• Limiti di frequenza che rallentano un grande batch o un giorno di lancio affollato.
• Cambi di modello. Le versioni vengono ritirate o aggiornate, e le risposte per cui hai ottimizzato i prompt possono cambiare.
• Condizioni sui dati. Leggi cosa fa il fornitore con prompt e output, e dove li elabora. Per alcuni dati nessuna condizione è abbastanza buona.
• Cambi di prezzo, in entrambe le direzioni, a ogni nuova generazione di modelli.

Quando la tua GPU vince a prescindere dal prezzo

• I dati devono restare su una macchina che controlli tu. Contratti, note sui pazienti, codice sotto NDA, liste clienti. Il server a noleggio è una macchina presso uno dei nostri host verificati, e il suo paese è indicato prima dell’avvio, ma nessuna azienda di IA riceve i tuoi prompt.
• Usi un tuo modello addestrato. Una LoRA addestrata sui tuoi ticket o documenti viene servita da vLLM con --enable-lora accanto al modello base. Alcune API in hosting servono LoRA a token, ma solo sui modelli base che scelgono loro; altre fanno pagare un deployment dedicato a ore, che ha la stessa economia del noleggio. Il fine-tuning di un LLM copre la parte del training.
• Il modello che ti serve non è offerto, oppure ti serve una versione esatta che non cambi per un anno.
• Un picco legato a una scadenza. Un lavoro di 10 ore senza limiti di frequenza, con un prezzo al minuto bloccato all’avvio, così conosci il conto prima di cominciare.

Una configurazione che spesso risulta la più economica

Molti team finiscono per dividere il lavoro. Il traffico interattivo e a picchi va a un’API, dove i tempi morti non costano nulla. I grandi lavori batch, le valutazioni e tutto ciò che contiene dati sensibili vanno su una GPU a noleggio, avviata quando parte il lavoro e fermata quando finisce, a mano o tramite la nostra API con un token preso dalle Impostazioni. Una chat di team sul proprio server in orario d’ufficio sta nel mezzo: costa meno degli abbonamenti a un modello proprietario di punta, ed è privata.

Se pensi a un server acceso 730 ore al mese per un anno, confrontalo con l’acquisto di una scheda o con un server dedicato mensile; a quel punto la fatturazione al minuto non fa più risparmiare. Il calcolo noleggiare o comprare trova il punto di pareggio. Per tutto ciò che è meno di un uso a tempo pieno, parti dal tuo conteggio reale di token del mese scorso, moltiplicalo per la tariffa della tua API e confrontalo con le ore in cui terresti davvero accesa una scheda.