GPU con 80 GB di VRAM o più
Su VRAMfarm le schede con almeno 80 GB di memoria video partono da 1,46 € l’ora (A100). In 80 GB entra un modello linguistico di circa 121B parametri a 4 bit o di 36B in FP16. Per immagini e video: qualsiasi modello open di immagini o video, anche più di uno in memoria contemporaneamente.
Gli 80 GB di A100 e H100 sono lo standard per lavorare sul serio con gli LLM e con il training: 70B con contesti lunghi, QLoRA di un 70B, fine-tuning completo di un 8B.
Schede da 80 GB o più, dalla più economica
| GPU | Tipo | Memoria | TFLOPS FP32 | Dove | Prezzo all’ora | ≈ al mese | Azione |
|---|---|---|---|---|---|---|---|
| A100 | data center | 80 GB | ≈19,5 | +2 | 1,46 €/ora | 1051 € al mese | Noleggia |
| RTX PRO 6000 | workstation | 96 GB | ≈125 | +8 | 2,12 €/ora | 1526 € al mese | Noleggia |
| H100 | data center | 80 GB | ≈67 | +1 | 3,90 €/ora | 2808 € al mese | Noleggia |
| H200 | data center | 141 GB | ≈67 | +2 | 5,43 €/ora | 3910 € al mese | Noleggia |
| B200 | data center | 192 GB | ≈80 | 16,12 €/ora | 11.606 € al mese | Noleggia |
Per avviare, il credito deve coprire un’ora di utilizzo della macchina. Paghi al minuto solo l’uso effettivo.
Cosa gira su 80 GB
Modelli linguistici
Fino a circa 121B parametri a 4 bit (AWQ, GPTQ, GGUF Q4) o 36B in FP16, con spazio per un contesto normale. Contesti lunghi e molti utenti in parallelo richiedono di più. Il calcolatore VRAM fa il conto per il tuo modello.
Immagini e video
Qualsiasi modello open di immagini o video, anche più di uno in memoria contemporaneamente.
Training
QLoRA di un 70B, LoRA di un 32B con base a 16 bit, fine-tuning completo di un 8B con un ottimizzatore a 8 bit.
Lavori tipici con questa memoria
- Modelli da 70B con contesto lungo
- Fine-tuning completo di modelli da 7–8B
- Inferenza con batch grandi su vLLM
Domande frequenti
Qual è la GPU più economica con 80 GB o più?
La NVIDIA A100 80GB, da 1,46 € l’ora su VRAMfarm, con fatturazione al minuto.
Quale LLM posso far girare su 80 GB?
Circa 121B parametri a 4 bit o 36B in FP16, con spazio per un contesto normale. Per esempio: Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
Posso sommare la memoria di più GPU?
Per i modelli linguistici sì: vLLM e llama.cpp dividono un modello su più schede, quindi 2 × 24 GB fanno girare quello che richiede circa 40 GB. Per i modelli di immagini e video la memoria non si somma: il modello deve stare in una sola scheda.
Come faccio a sapere se 80 GB bastano?
Somma i pesi (2 GB per miliardo di parametri in FP16, 0,6 GB a 4 bit), la cache del contesto e un 10–15% per i buffer, oppure usa il nostro calcolatore VRAM. Se il modello non entra, o si blocca con “CUDA out of memory” o gira molto più lento con l’offloading.
Noleggia 80 GB di VRAM
Ricarica da 10 €, scegli una scheda dall’elenco e parti in pochi minuti.