GPU avec 80 Go de VRAM ou plus
Les cartes avec au moins 80 Go de mémoire vidéo commencent à 1,46 € de l’heure sur VRAMfarm (A100). 80 Go accueillent un modèle de langage d’environ 121B paramètres en 4 bits ou 36B en FP16. Pour l’image et la vidéo : n’importe quel modèle ouvert d’image ou de vidéo, plusieurs à la fois en mémoire.
80 Go sur la A100 et la H100, c’est le standard pour le travail sérieux sur les LLM et l’entraînement : 70B avec un long contexte, QLoRA d’un 70B, fine-tuning complet d’un 8B.
Cartes de 80 Go ou plus, de la moins chère à la plus chère
| GPU | Type | Mémoire | TFLOPS FP32 | Où | Prix par heure | ≈ par mois | Action |
|---|---|---|---|---|---|---|---|
| A100 | centre de données | 80 Go | ≈19,5 | +2 | 1,46 €/h | 1 051 € par mois | Louer |
| RTX PRO 6000 | station de travail | 96 Go | ≈125 | +8 | 2,12 €/h | 1 526 € par mois | Louer |
| H100 | centre de données | 80 Go | ≈67 | +1 | 3,90 €/h | 2 808 € par mois | Louer |
| H200 | centre de données | 141 Go | ≈67 | +2 | 5,43 €/h | 3 910 € par mois | Louer |
| B200 | centre de données | 192 Go | ≈80 | 16,12 €/h | 11 606 € par mois | Louer |
Pour lancer, votre solde doit couvrir une heure d’utilisation de la machine. Vous êtes facturé à la minute, selon l’utilisation réelle.
Ce qui tourne sur 80 Go
Modèles de langage
Jusqu’à environ 121B paramètres en 4 bits (AWQ, GPTQ, GGUF Q4) ou 36B en FP16, avec de la place pour un contexte normal. Un long contexte et de nombreux utilisateurs en parallèle demandent plus. Le calculateur de VRAM fait le calcul pour votre modèle.
Images et vidéo
N’importe quel modèle ouvert d’image ou de vidéo, plusieurs à la fois en mémoire.
Entraînement
QLoRA d’un 70B, LoRA d’un 32B avec une base 16 bits, fine-tuning complet d’un 8B avec un optimiseur 8 bits.
Usages typiques pour cette taille
- Modèles 70B avec un long contexte
- Fine-tuning complet de modèles 7–8B
- Inférence à gros batchs avec vLLM
Questions fréquentes
Quel est le GPU le moins cher avec 80 Go ou plus ?
La NVIDIA A100 80GB, dès 1,46 € de l’heure sur VRAMfarm, facturée à la minute.
Quel LLM puis-je faire tourner sur 80 Go ?
Environ 121B paramètres en 4 bits ou 36B en FP16, avec de la place pour un contexte normal. Par exemple : Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
Puis-je cumuler la mémoire de plusieurs GPU ?
Pour les modèles de langage, oui : vLLM et llama.cpp répartissent un modèle entre les cartes, donc 2 × 24 Go peuvent faire tourner ce qui demande environ 40 Go. Pour les modèles d’image et de vidéo, la mémoire ne s’additionne pas : une seule carte doit contenir le modèle.
Comment savoir si 80 Go suffisent ?
Additionnez les poids (2 Go par milliard de paramètres en FP16, 0,6 Go en 4 bits), le cache de contexte et 10 à 15 % pour les buffers, ou utilisez notre calculateur de VRAM. Si le modèle ne tient pas, soit il échoue avec « CUDA out of memory », soit il tourne beaucoup plus lentement avec l’offloading.
Louez 80 Go de VRAM
Rechargez à partir de 10 €, choisissez une carte dans la liste et démarrez en quelques minutes.