GPU avec 96 Go de VRAM ou plus
Les cartes avec au moins 96 Go de mémoire vidéo commencent à 2,12 € de l’heure sur VRAMfarm (RTX PRO 6000). 96 Go accueillent un modèle de langage d’environ 145B paramètres en 4 bits ou 43B en FP16. Pour l’image et la vidéo : n’importe quel modèle ouvert d’image ou de vidéo, plusieurs à la fois en mémoire.
96 Go sur la RTX PRO 6000 Blackwell, c’est le maximum de mémoire sur une seule carte de station de travail : 70B avec un très long contexte, gros modèles vidéo et scènes 3D lourdes.
Cartes de 96 Go ou plus, de la moins chère à la plus chère
| GPU | Type | Mémoire | TFLOPS FP32 | Où | Prix par heure | ≈ par mois | Action |
|---|---|---|---|---|---|---|---|
| RTX PRO 6000 | station de travail | 96 Go | ≈125 | +8 | 2,12 €/h | 1 526 € par mois | Louer |
| H200 | centre de données | 141 Go | ≈67 | +2 | 5,43 €/h | 3 910 € par mois | Louer |
| B200 | centre de données | 192 Go | ≈80 | 16,12 €/h | 11 606 € par mois | Louer |
Pour lancer, votre solde doit couvrir une heure d’utilisation de la machine. Vous êtes facturé à la minute, selon l’utilisation réelle.
Ce qui tourne sur 96 Go
Modèles de langage
Jusqu’à environ 145B paramètres en 4 bits (AWQ, GPTQ, GGUF Q4) ou 43B en FP16, avec de la place pour un contexte normal. Un long contexte et de nombreux utilisateurs en parallèle demandent plus. Le calculateur de VRAM fait le calcul pour votre modèle.
Images et vidéo
N’importe quel modèle ouvert d’image ou de vidéo, plusieurs à la fois en mémoire.
Entraînement
QLoRA d’un 70B, LoRA d’un 32B avec une base 16 bits, fine-tuning complet d’un 8B avec un optimiseur 8 bits.
Usages typiques pour cette taille
- Modèles 70B avec un long contexte
- Fine-tuning complet de modèles 7–8B
- Inférence à gros batchs avec vLLM
Questions fréquentes
Quel est le GPU le moins cher avec 96 Go ou plus ?
La NVIDIA RTX PRO 6000 Blackwell, dès 2,12 € de l’heure sur VRAMfarm, facturée à la minute.
Quel LLM puis-je faire tourner sur 96 Go ?
Environ 145B paramètres en 4 bits ou 43B en FP16, avec de la place pour un contexte normal. Par exemple : Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
Puis-je cumuler la mémoire de plusieurs GPU ?
Pour les modèles de langage, oui : vLLM et llama.cpp répartissent un modèle entre les cartes, donc 2 × 24 Go peuvent faire tourner ce qui demande environ 40 Go. Pour les modèles d’image et de vidéo, la mémoire ne s’additionne pas : une seule carte doit contenir le modèle.
Comment savoir si 96 Go suffisent ?
Additionnez les poids (2 Go par milliard de paramètres en FP16, 0,6 Go en 4 bits), le cache de contexte et 10 à 15 % pour les buffers, ou utilisez notre calculateur de VRAM. Si le modèle ne tient pas, soit il échoue avec « CUDA out of memory », soit il tourne beaucoup plus lentement avec l’offloading.
Louez 96 Go de VRAM
Rechargez à partir de 10 €, choisissez une carte dans la liste et démarrez en quelques minutes.