GPU per fine-tuning: LoRA, QLoRA e training completo da 0,59 € l’ora
Per scegliere una GPU per fine-tuning parti dal metodo: il QLoRA di un modello 8B entra in una scheda da 16–24 GB, un 32B richiede 32–48 GB e un 70B una scheda da 80 GB. Il LoRA con base a 16 bit richiede circa il doppio, e il fine-tuning completo di un 8B occupa già un’intera scheda da 80 GB. Su VRAMfarm le schede per il training partono da 0,59 € l’ora, con fatturazione al minuto, e il risultato si può salvare per la sessione successiva.
Il modello più grande per metodo su una sola scheda
| GPU | Memoria | QLoRA, fino a | LoRA a 16 bit, fino a | Fine-tuning completo, fino a | Prezzo |
|---|---|---|---|---|---|
| RTX 4090 | 24 GB | 8B | 8B | — | 0,59 €/ora |
| RTX 5090 | 32 GB | 32B | 8B | — | 0,76 €/ora |
| RTX A6000 | 48 GB | 32B | 8B | — | 0,72 €/ora |
| L40S | 48 GB | 32B | 8B | — | 1,06 €/ora |
| RTX PRO 6000 | 96 GB | 70B | 32B | 8B | 2,12 €/ora |
| A100 | 80 GB | 70B | 32B | 8B | 1,46 €/ora |
| H100 | 80 GB | 70B | 32B | 8B | 3,90 €/ora |
| H200 | 141 GB | 70B | 32B | 8B | 5,43 €/ora |
| B200 | 192 GB | 70B | 70B | 8B | 16,12 €/ora |
La taglia di modello più grande, tra quelle comuni, per ciascun metodo su una sola scheda, con lunghezze di sequenza tipiche. Il fine-tuning completo presuppone un ottimizzatore a 8 bit. Più dati, sequenze più lunghe o batch più grandi richiedono più memoria. I prezzi sono per una scheda all’ora e seguono il mercato; il prezzo si blocca quando avvii il server. La fatturazione è al minuto, con un minimo di 15 minuti.
Cosa si addestra
Un LLM sui tuoi dati
Il QLoRA con Unsloth, Axolotl o TRL insegna a un modello il tuo stile, il tuo formato o il tuo dominio. Per un modello 8B di solito bastano alcune migliaia di buoni esempi.
LoRA per immagini
Un LoRA per Flux o SDXL da 20–30 foto di una persona, di un prodotto o di uno stile richiede 30–90 minuti su una scheda da 24 GB.
Parlato e voce
Fai il fine-tuning di Whisper sul tuo accento o sulla tua terminologia, o di un modello TTS su una voce di cui hai i diritti.
Training completo e ricerca
Fine-tuning completo ed esperimenti di pre-training su schede da 80–192 GB, oppure con 2–8 schede in una sola macchina con DeepSpeed o FSDP.
Memoria per metodo
Il QLoRA tiene il modello base a 4 bit e addestra piccoli adattatori: circa 1 GB per miliardo di parametri, più le attivazioni. Il LoRA con base a 16 bit richiede circa 2–3 GB per miliardo. Il fine-tuning completo con AdamW richiede circa 16 byte per parametro tra pesi, gradienti e stato dell’ottimizzatore, quindi anche un 8B arriva a circa 130 GB; un ottimizzatore a 8 bit lo fa stare in una sola scheda da 80 GB.
Velocità e prezzo
Una H100 addestra parecchie volte più in fretta di una RTX 4090 e costa parecchie volte di più all’ora, quindi il conto per lo stesso lavoro è spesso simile. Usa schede più economiche da 24–48 GB per i run piccoli e il debug, poi sposta il run finale su una H100 o una H200 quando il tempo conta.
Non perdere il risultato
Salva i checkpoint in /workspace e scegli “Salva e ferma”: la cartella passa al tuo prossimo server, anche su un’altra scheda, a 0,03 € per GB al mese. Senza salvataggio, il disco viene cancellato quando il server si ferma.
Quanto costa un fine-tuning
Il QLoRA di un modello 8B su 15 milioni di token di training con Unsloth su una RTX 4090 richiede circa 2 ore e 50 minuti: più o meno 1,65 €. Il QLoRA di un 70B su una H100 per 6 ore: circa 23,40 €. Il tempo reale dipende dalla lunghezza delle sequenze, dalla dimensione del batch e dal numero di epoche.
Guide sull’argomento
12 novembre 2026 Fine-tuning di un LLM: quanta VRAM e quante GPU per QLoRA, LoRA e completo
Con QLoRA un modello da 8B sta su 16 GB e un 70B su una scheda da 80 GB; il fine-tuning completo chiede circa 16 byte per parametro. Memoria, schede, strumenti, ore e costi.
12 novembre 2026 Addestrare una LoRA Flux con le tue foto: 20 immagini, 24 GB e circa due ore
Quante foto, quali didascalie, ai-toolkit o FluxGym, 24 o 16 GB, 2.000 step in 1–2,5 ore su una RTX 4090, e che fine fanno le tue foto dopo.
12 novembre 2026 Training multi-GPU: DDP, FSDP e ZeRO su una macchina a noleggio con 2–8 GPU
Quando una scheda non basta: data e model parallel, memoria per GPU con FSDP e DeepSpeed ZeRO, NVLink o PCIe, noleggiare 2–8 schede ed evitare i blocchi di NCCL.
Domande frequenti
Che GPU serve per il fine-tuning di Llama 8B?
Il QLoRA funziona su una scheda da 16–24 GB, e la RTX 4090 è una buona scelta. Il LoRA con base a 16 bit richiede 24–32 GB. Il fine-tuning completo richiede una scheda da 80 GB con un ottimizzatore a 8 bit, oppure più schede.
Posso fare il fine-tuning di un modello 70B su una sola GPU?
Con QLoRA sì: 45–60 GB, quindi una scheda da 80 GB (A100, H100), oppure 48 GB con Unsloth e sequenze brevi. Il LoRA con base a 16 bit o il fine-tuning completo di un 70B richiedono più schede da 80 GB.
Posso addestrare su più GPU insieme?
Sì. Nell’elenco dei server scegli una macchina con 2, 4 o 8 schede identiche e usa DeepSpeed, FSDP o Accelerate. Tutte le schede sono nella stessa macchina, quindi non ti serve una rete tra server.
E se il training gira di notte e dopo la fine il server resta inattivo?
Il carico sulla GPU per noi conta come utilizzo. Circa 2 ore dopo la fine del lavoro ti mandiamo un’email, e un’ora dopo il server salva la tua cartella e si ferma, così non paghi tutta la notte.
Avvia un training
Ricarica da 10 €, scegli una scheda con abbastanza memoria e collegati via SSH o Jupyter.