GPU con 96 GB di VRAM o più
Su VRAMfarm le schede con almeno 96 GB di memoria video partono da 2,12 € l’ora (RTX PRO 6000). In 96 GB entra un modello linguistico di circa 145B parametri a 4 bit o di 43B in FP16. Per immagini e video: qualsiasi modello open di immagini o video, anche più di uno in memoria contemporaneamente.
I 96 GB della RTX PRO 6000 Blackwell sono la memoria più ampia in una singola scheda workstation: 70B con contesti molto lunghi, modelli video grandi e scene 3D pesanti.
Schede da 96 GB o più, dalla più economica
| GPU | Tipo | Memoria | TFLOPS FP32 | Dove | Prezzo all’ora | ≈ al mese | Azione |
|---|---|---|---|---|---|---|---|
| RTX PRO 6000 | workstation | 96 GB | ≈125 | +8 | 2,12 €/ora | 1526 € al mese | Noleggia |
| H200 | data center | 141 GB | ≈67 | +2 | 5,43 €/ora | 3910 € al mese | Noleggia |
| B200 | data center | 192 GB | ≈80 | 16,12 €/ora | 11.606 € al mese | Noleggia |
Per avviare, il credito deve coprire un’ora di utilizzo della macchina. Paghi al minuto solo l’uso effettivo.
Cosa gira su 96 GB
Modelli linguistici
Fino a circa 145B parametri a 4 bit (AWQ, GPTQ, GGUF Q4) o 43B in FP16, con spazio per un contesto normale. Contesti lunghi e molti utenti in parallelo richiedono di più. Il calcolatore VRAM fa il conto per il tuo modello.
Immagini e video
Qualsiasi modello open di immagini o video, anche più di uno in memoria contemporaneamente.
Training
QLoRA di un 70B, LoRA di un 32B con base a 16 bit, fine-tuning completo di un 8B con un ottimizzatore a 8 bit.
Lavori tipici con questa memoria
- Modelli da 70B con contesto lungo
- Fine-tuning completo di modelli da 7–8B
- Inferenza con batch grandi su vLLM
Domande frequenti
Qual è la GPU più economica con 96 GB o più?
La NVIDIA RTX PRO 6000 Blackwell, da 2,12 € l’ora su VRAMfarm, con fatturazione al minuto.
Quale LLM posso far girare su 96 GB?
Circa 145B parametri a 4 bit o 43B in FP16, con spazio per un contesto normale. Per esempio: Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
Posso sommare la memoria di più GPU?
Per i modelli linguistici sì: vLLM e llama.cpp dividono un modello su più schede, quindi 2 × 24 GB fanno girare quello che richiede circa 40 GB. Per i modelli di immagini e video la memoria non si somma: il modello deve stare in una sola scheda.
Come faccio a sapere se 96 GB bastano?
Somma i pesi (2 GB per miliardo di parametri in FP16, 0,6 GB a 4 bit), la cache del contesto e un 10–15% per i buffer, oppure usa il nostro calcolatore VRAM. Se il modello non entra, o si blocca con “CUDA out of memory” o gira molto più lento con l’offloading.
Noleggia 96 GB di VRAM
Ricarica da 10 €, scegli una scheda dall’elenco e parti in pochi minuti.