12 novembre 2026 · Team VRAMfarm
RTX 5090 per l'IA: cosa fa girare con 32 GB di GDDR7 che una scheda da 24 GB non regge
Otto gigabyte sembrano un passo piccolo, ma sulla RTX 5090 fanno la differenza tra “ci sta con qualche trucco” e “ci sta”: un modello linguistico da 32B con 30–40k token di contesto invece di 8–10k, il video Wan 2.2 14B in fp8 a 720p e Flux in bf16 completo. La scheda legge anche la memoria il 78% più in fretta di una RTX 4090 (1.792 contro 1.008 GB/s), quindi genera testo circa 1,4–1,7 volte più velocemente e immagini circa 1,3–1,5 volte più velocemente. Si noleggia da 0,76 € all’ora, contro 0,59 € della 4090. L’unico intoppo è il software: Blackwell richiede CUDA 12.8 o successivo.
Cosa è cambiato rispetto alla RTX 4090
| RTX 4090 | RTX 5090 | |
|---|---|---|
| Architettura | Ada Lovelace (2022), sm_89 |
Blackwell (2025), sm_120 |
| VRAM | 24 GB GDDR6X | 32 GB GDDR7 |
| Bus di memoria | 384 bit | 512 bit |
| Banda di memoria | 1.008 GB/s | 1.792 GB/s |
| CUDA core | 16.384 | 21.760 |
| Calcolo tensoriale FP16/BF16, dense | circa 165 TFLOPS | circa 210 TFLOPS |
| Formati a bassa precisione | FP8 | FP8, FP4 |
| PCIe | 4.0 | 5.0 |
| Consumo della scheda | 450 W | 575 W |
| Requisiti software minimi | qualsiasi PyTorch attuale | PyTorch 2.7+, CUDA 12.8+, driver 570+ |
| Prezzo di noleggio | da 0,59 €/h | da 0,76 €/h |
Lo schema è l’opposto del passaggio dalla RTX 3090 alla 4090 (vedi RTX 3090 vs RTX 4090). Quel passaggio aveva raddoppiato il calcolo e spostato appena la banda. Questo aggiunge circa il 27% di calcolo e il 78% di banda, più un terzo di memoria in più. Per questo la 5090 guadagna di più sui modelli linguistici, limitati dalla banda, e meno sui modelli di immagini, limitati dal calcolo.
I modelli che ora ci stanno
Sono stime per impostazioni tipiche; la lunghezza del contesto, i buffer del runtime e le opzioni di offloading di ComfyUI le spostano di qualche gigabyte. La guida alla VRAM riporta la formula da cui nascono.
| Modello | Su 24 GB (RTX 4090, RTX 3090) | Su 32 GB (RTX 5090) |
|---|---|---|
| Qwen3 32B | 4 bit (~20 GB) con circa 8–10k di contesto | 4 bit con 30–40k di contesto, oppure 5 bit (~23 GB) con circa 15–25k, oppure 6 bit (~27 GB) con circa 5–10k |
| Qwen3 30B-A3B (mixture of experts) | 4 bit (~19 GB), contesto moderato | 6 bit (~25 GB), oppure 4 bit con contesto lungo |
| Gemma 3 27B | 4 bit | 8 bit (~29 GB), contesto breve |
| Llama 3.3 70B | no | ancora no: a 4 bit servono circa 43 GB |
| Flux.1 dev | fp8, oppure bf16 con molto offloading | bf16 con il text encoder parcheggiato nella RAM, oppure fp8 con LoRA e ControlNet caricati insieme |
| Qwen-Image, Qwen Image Edit, HiDream in fp8 | ci stanno; ComfyUI carica e scarica il text encoder a turno | modello di immagini e text encoder possono restare caricati entrambi |
| Video Wan 2.2 5B | 720p, clip da 5 secondi | 720p con margine per clip più lunghe |
| Video Wan 2.2 14B in fp8 | solo con quantizzazione GGUF o molto offloading | circa 30 GB a 720p per 5 secondi: ci sta, di misura |
| Training di LoRA Flux | 24 GB con il modello base a 8 bit | spazio per una risoluzione più alta o un batch più grande |
Nell’uso quotidiano contano soprattutto le righe dei modelli linguistici. Su una scheda da 24 GB, un modello da 32B a 4 bit lascia 2–3 GB per la KV cache, ed è per questo che i documenti lunghi finiscono con “CUDA out of memory”. Su 32 GB lo stesso modello ha circa quattro volte lo spazio. In alternativa puoi spendere la memoria in più per una quantizzazione migliore: un 32B a 5 o 6 bit è un po’ più vicino all’originale rispetto a quello a 4 bit, soprattutto su codice e matematica.
Per il video, la notizia è Wan 2.2 14B. Una clip di 5 secondi a 720p in fp8 chiede circa 30 GB, quindi la 5090 è la scheda più piccola che lo fa girare senza offloading. Clip più lunghe, una risoluzione più alta o nodi aggiuntivi superano i 32 GB, ed è per questo che la nostra app pronta Wan 2.2 14B chiede una scheda da 48 GB. Su una 5090 puoi comunque farlo girare da te in un ComfyUI vuoto, tenendo le clip brevi.
Quanto è più veloce di una 4090, e quanto costa un lavoro
| Lavoro | RTX 4090 | RTX 5090 |
|---|---|---|
| 1.000 immagini Flux.1 dev, fp8, 20 step, 1024×1024 | 4–6 al minuto: circa 3 h 20 min, 1,96 € | 6–9 al minuto: circa 2 h 23 min, 1,81 € |
| Una clip Wan 2.2 5B, 1280×704, 5 secondi | 4–9 min, calcolati 6: 0,06 € | 3–6 min, calcolati 4: 0,05 € |
| LoRA Flux.1 dev, 2.000 step | 1–2,5 h, calcolate 1,5: 0,89 € | 0,8–1,6 h, calcolate 1,1: 0,84 € |
| 1M di token in output, Qwen3 32B a 4 bit, un utente | 30–40 token/s, calcolati 35: 7 h 56 min, 4,68 € | 45–65 token/s, calcolati 55: 5 h 03 min, 3,84 € |
I tempi per immagini e video presuppongono una coda di ComfyUI che tiene la scheda sempre occupata; i valori in token sono per un solo utente in Ollama o llama.cpp. Dipendono da workflow, sampler, lunghezza del prompt e versione del software, quindi la parte utile sono i rapporti.
La 5090 costa meno per lavoro ogni volta che il suo prezzo orario resta sotto il suo vantaggio di velocità moltiplicato per il prezzo della 4090: sotto circa 1,3–1,5 volte per immagini e training, sotto circa 1,4–1,7 volte per la chat. Confronta i due prezzi nella pagina dei prezzi al momento dell’avvio; i prezzi del catalogo sono in tempo reale, e il prezzo al minuto resta fisso una volta avviato il server. Per il lavoro davanti allo schermo aggiungi il tuo tempo: un’immagine Flux ogni 7–10 secondi invece che ogni 12 cambia il ritmo di una sessione.
CUDA 12.8 o successivo: l’unico intoppo
Le schede Blackwell usano una nuova architettura, sm_120, e il software meno recente non ha codice per lei. Per far girare qualsiasi cosa su una 5090 ti servono:
- un driver NVIDIA della serie 570 o successiva sulla macchina (580 o successivo se usi una build per CUDA 13);
- una build di PyTorch per CUDA 12.8 o superiore (
cu128,cu129ocu130); - PyTorch 2.7 o successivo, la prima release stabile con supporto per Blackwell.
Una build sbagliata fallisce con “no kernel image is available for execution on the device”, spesso dopo un avviso secondo cui la scheda “with CUDA capability sm_120 is not compatible with the current PyTorch installation”. Lo stesso succede con le estensioni bloccate su versioni vecchie: xformers, flash-attn, bitsandbytes, kernel di attention personalizzati o nodi di ComfyUI che reinstallano un torch vecchio.
Come evitarlo su una macchina a noleggio:
- Controlla la macchina prima dell’avvio. Il catalogo mostra driver e versione di CUDA di ogni macchina, e il filtro “CUDA, da” nasconde quelle più vecchie. Qualsiasi macchina con una 5090 dovrebbe già avere un driver recente, ma un filtro a 12.8 non costa nulla.
- Usa uno stack aggiornato. Le nostre app pronte e il ComfyUI vuoto arrivano con PyTorch per CUDA 12.8. Nel tuo ambiente, installa con
pip install torch --index-url https://download.pytorch.org/whl/cu128. - Tieni i progetti vecchi sulle schede più vecchie. Un repository bloccato su torch 2.1 e CUDA 11.8 su Blackwell non gira proprio. Fallo girare su una 4090 o una 3090, oppure aggiorna le sue dipendenze.
La guida alle incompatibilità tra CUDA e driver ha la tabella completa di driver, build e messaggi di errore.
Quando serve comunque una scheda da 48 GB
32 GB colmano molti vuoti, ma non tutti. Prendi una scheda da 48 GB per:
- Modelli linguistici da 70B. A 4 bit i soli pesi sono circa 43 GB. Una scheda da 48 GB li fa girare con 8–12k token di contesto; una da 80 GB con contesto lungo.
- Video Wan 2.2 14B più lunghi o più nitidi. Più di 5 secondi a 720p, 1080p, oppure il modello in bf16.
- Modelli da 32B in fp8 (circa 33 GB), o un 32B servito con vLLM a più utenti. Ogni conversazione in parallelo ha bisogno della sua KV cache.
- Qwen-Image in bf16 (circa 41 GB per il solo modello di immagini) o workflow di immagini pesanti con più LoRA.
- QLoRA su modelli da 32B. Con sequenze brevi bastano 24–32 GB; con 48 GB si sta comodi.
Le opzioni da 48 GB sono la RTX A6000 da 0,72 € all’ora e la L40S da 1,06 €; la RTX PRO 6000 è una scheda workstation Blackwell con 96 GB, da 2,12 €. Le schede da 48 GB hanno meno banda di una 5090 (768–864 GB/s), quindi sono più lente in ciò che sta su entrambe. Sceglile per la memoria, non per la velocità.
Per i fine-tuning completi e i modelli da 70B in fp8, il gradino successivo è una A100 o una H100 da 80 GB.
Chi dovrebbe noleggiare la 5090
Noleggiala se chatti con modelli da 14–32B o li servi e vuoi un contesto lungo, se fai video con Wan 2.2, o se usi Flux, Qwen-Image o HiDream tutto il giorno e vuoi meno cambi di modello. Resta sulla 4090 se il tuo workflow sta già comodo in 24 GB e quel giorno il rapporto di prezzo non premia la 5090, o se il tuo progetto è bloccato su un vecchio stack CUDA. Resta sulla 3090 per lunghi batch economici in cui nessuno aspetta.
Se hai dubbi, il test più economico è quello reale: fai girare lo stesso lavoro breve su una 4090 e su una 5090 e confronta i minuti. Con la fatturazione al minuto, un test di 15 minuti costa 0,15 € sulla 4090 e 0,19 € sulla 5090. La pagina della RTX 5090 elenca le macchine disponibili adesso, con paese, driver e versione di CUDA.