GPU pour LLM : faites tourner votre propre modèle dès 0,30 € de l’heure
Pour choisir un GPU pour LLM, regardez d’abord la mémoire : une carte de 24 Go (RTX 3090 ou 4090) fait tourner des modèles jusqu’à environ 32B paramètres en 4 bits, une carte de 48 Go gère un 70B en 4 bits avec un contexte normal, et les cartes de 80 Go (A100, H100) prennent un 70B avec un long contexte ou de nombreux utilisateurs. Sur VRAMfarm, c’est à partir de 0,30 € de l’heure, facturé à la minute, et vLLM vous donne une API compatible OpenAI en quelques minutes.
Quel modèle tient et à quelle vitesse il répond
| GPU | Mémoire | Plus gros modèle, 4 bits | 8B, tokens/s | 32B, tokens/s | 70B, tokens/s | Prix |
|---|---|---|---|---|---|---|
| RTX 3090 | 24 Go | 36B | ~117 | ~29 | — | 0,30 €/h |
| RTX 4090 | 24 Go | 36B | ~126 | ~32 | — | 0,59 €/h |
| RTX 5090 | 32 Go | 48B | ~224 | ~56 | — | 0,76 €/h |
| RTX A6000 | 48 Go | 72B | ~96 | ~24 | ~11 | 0,72 €/h |
| L40S | 48 Go | 72B | ~108 | ~27 | ~12 | 1,06 €/h |
| RTX PRO 6000 | 96 Go | 145B | ~224 | ~56 | ~26 | 2,12 €/h |
| A100 | 80 Go | 121B | ~255 | ~64 | ~29 | 1,46 €/h |
| H100 | 80 Go | 121B | ~419 | ~105 | ~48 | 3,90 €/h |
| H200 | 141 Go | 213B | ~600 | ~150 | ~69 | 5,43 €/h |
| B200 | 192 Go | 290B | ~1 000 | ~250 | ~114 | 16,12 €/h |
Tokens par seconde pour une seule requête avec un modèle en 4 bits : bande passante mémoire ÷ taille des poids, avec un facteur 0,6 pour les pertes réelles. « — » : le modèle ne tient pas sur une seule carte avec de la place pour le contexte. Avec des requêtes parallèles dans vLLM, le débit total est plusieurs fois plus élevé. Prix pour une carte et par heure ; ils suivent le marché et sont figés au lancement. Facturation à la minute, minimum 15 minutes.
Ce que l’on fait avec un LLM sur GPU loué
Une API pour votre produit
vLLM expose un endpoint compatible OpenAI : changez l’URL de base dans votre code, le reste ne bouge pas. Le batching continu traite des dizaines de requêtes à la fois sur une seule carte.
Un ChatGPT privé pour l’équipe
Notre chat prêt à l’emploi fait tourner Qwen3 ou MiMo dans votre navigateur. Prompts et fichiers restent sur votre serveur et ne passent jamais par une API tierce.
Traitements par lots
Étiquetez, résumez ou traduisez un million de textes pendant la nuit. Démarrez la carte quand la file se remplit, arrêtez-la quand elle est vide, et ne payez que ces heures-là.
Gros modèles et nouveautés
Quand un nouveau modèle ouvert sort, vous pouvez l’essayer le jour même sur 80 à 192 Go sans acheter de matériel : un 70B avec long contexte, des modèles mixture-of-experts, plusieurs cartes en tensor parallel.
Combien de mémoire demande un modèle
Les poids occupent environ 2 Go par milliard de paramètres en FP16, 1 Go en 8 bits et 0,6 Go en 4 bits (AWQ, GPTQ, GGUF Q4). Ajoutez la place du KV cache, qui grandit avec la longueur du contexte et le nombre de requêtes parallèles, plus 10 à 15 % pour les buffers. Un modèle 8B en 4 bits demande donc environ 6 Go, un 32B environ 22 Go et un 70B environ 43 Go, avant le contexte. Le calculateur de VRAM fait le calcul pour votre modèle.
Vitesse : la bande passante mémoire avant tout
Quand une seule personne discute, chaque token relit tout le modèle en mémoire : la vitesse dépend donc davantage de la bande passante mémoire que de la puissance de calcul. C’est pourquoi une RTX 3090 et une 4090 génèrent à une vitesse proche pour le même modèle, alors qu’une H100 avec sa HBM3 va environ trois fois plus vite. Sous charge, cela change : vLLM regroupe les requêtes et la puissance de calcul commence à compter.
vLLM, Ollama ou llama.cpp
vLLM est conçu pour servir de nombreux utilisateurs via une API. Ollama et llama.cpp sont plus simples pour une seule personne et lisent les fichiers GGUF, y compris sur des cartes avec moins de mémoire. Les trois sont disponibles sur un serveur vierge ; Ollama et vLLM ont chacun leur page de configuration.
Ce que coûte un mois d’API privée
Une API Qwen3 32B sur une RTX 4090, 8 heures par jour ouvré, 22 jours par mois : 176 heures, soit environ 103,84 €. En continu, comptez environ 424,80 € par mois. Comparez avec votre facture mensuelle d’API pour votre volume de tokens : à quelques centaines de requêtes par jour, une API payante revient généralement moins cher ; sous charge régulière, votre propre modèle l’emporte souvent.
Guides sur le sujet
12 novembre 2026 Faire tourner Llama 70B sur un seul GPU : 4 bits ou FP8, 48 ou 80 Go, et vitesses réelles
Llama 3.3 70B en 4 bits pèse 40 à 43 Go : une carte de 48 Go pour 8 à 16 000 tokens de contexte, 80 Go pour les longs documents ou plusieurs utilisateurs. Formats, commandes.
12 novembre 2026 vLLM, Ollama ou llama.cpp : avec quoi faire tourner votre LLM, et les commandes
Ollama pour une personne en cinq minutes, llama.cpp pour le contrôle, vLLM pour une API à plusieurs utilisateurs : vitesse, formats, mémoire et commandes de démarrage.
12 novembre 2026 Son propre LLM ou une API : quand un GPU loué revient moins cher que le paiement au token
Quatre scénarios mensuels en euros : un utilisateur, une équipe de dix, un bot 24 h/24 et un traitement par lots de 440 M de tokens. Où l’API gagne, où gagne votre GPU.
Questions fréquentes
Quel GPU faut-il pour Llama 3.3 70B ?
En 4 bits, les poids occupent environ 43 Go : une seule carte de 48 Go (RTX A6000, L40S) suffit avec un contexte normal. Pour un long contexte ou de nombreux utilisateurs en parallèle, prenez une carte de 80 Go (A100, H100) ou la RTX PRO 6000 de 96 Go. En FP16, le modèle demande environ 140 Go : une H200 avec 141 Go, c’est juste ; une B200 ou deux cartes de 80 Go, c’est confortable.
Puis-je répartir un modèle sur plusieurs GPU ?
Oui. vLLM et llama.cpp répartissent un modèle sur plusieurs cartes grâce au parallélisme tensoriel ou pipeline. Choisissez une machine avec 2, 4 ou 8 cartes identiques dans la liste des serveurs.
Est-ce moins cher que l’API d’OpenAI ou d’Anthropic ?
Tout dépend du volume. Une carte louée coûte le même prix à l’heure, qu’elle réponde à dix requêtes ou à dix mille : sous charge régulière, votre propre modèle ouvert revient généralement moins cher, et les données restent chez vous. Pour quelques requêtes par jour, une API payante est moins chère et plus simple.
Combien de temps faut-il pour démarrer ?
Le serveur est généralement prêt pour SSH et Jupyter en 2 à 5 minutes. Le téléchargement des poids du modèle vient ensuite et dépend de sa taille : un modèle 32B en 4 bits pèse environ 20 Go.
Lancez votre modèle dès aujourd’hui
Rechargez à partir de 10 €, choisissez une carte et démarrez vLLM, Ollama ou le chat prêt à l’emploi.