Logo VRAMfarm VRAMfarm
FR
S’inscrire
Lancer des modèles d’IA · Ollama

Ollama sur un GPU loué

Dans Ollama, les modèles jusqu’à 14B tournent sur une carte de 12 Go, le 32B tient dans 24 Go et le 70B demande environ 50 Go. Une seule commande télécharge un modèle, qui répond ensuite dans le terminal ou via l’API sur le port 11434. L’application prête à l’emploi ChatGPT privé installe Ollama avec la fenêtre de chat Open WebUI.

Application
PyTorch
GPU
RTX 3060, 12 Go
Prix
dès 0,12 €/h

Pour lancer, votre solde doit couvrir une heure d’utilisation de la machine. Vous êtes facturé à la minute, selon l’utilisation réelle.

Besoin d’un simple chat ? L’application prête à l’emploi ChatGPT privé

Des bocaux de modèles lumineux sur une étagère ; l’un d’eux verse son modèle dans une carte graphique
à partir de 6 Gode mémoire vidéo
2 à 5 minutespour que le serveur démarre
À la minutedébité sur votre solde
SSH et Jupyteraccès au serveur

Mémoire nécessaire et GPU à choisir

Jusqu’à 8B occupe environ 6 Go de mémoire vidéo en 4 bits ; l’option la moins chère qui convient est RTX 3060. Les prix sont mis à jour à partir des machines disponibles dans le catalogue à l’ouverture de la page.

VersionFP164 bitsGPU adaptéGPUPrix par heurePar heure
Jusqu’à 8B 18 Go6 Go RTX 3060 0,12 €
Ollama 14B 31 Go10 Go RTX 3060 0,12 €
Ollama 32B 71 Go22 Go 2× RTX 3060 0,24 €
Ollama 70B 154 Go47 Go 4× RTX 4060 Ti 0,64 €

Estimation : FP16 ≈ 2 Go par milliard de paramètres, 4 bits ≈ 0,6 Go, plus 10 % pour le contexte. Choix : la configuration la moins chère avec assez de mémoire ; pour les grands modèles, cela signifie plusieurs cartes identiques. Tous les GPU et leurs prix

Comment lancer Ollama en 3 étapes

  1. Inscrivez-vous et rechargez . Créez un compte et rechargez à partir de 10 €. Pour lancer, votre solde doit couvrir au moins une heure d’utilisation de la machine choisie ; ensuite, vous payez à la minute.
  2. Choisissez un GPU . La mémoire de chaque version figure dans le tableau ci-dessus, et la plus légère tourne à partir de 6 Go. Le bouton de cette page sélectionne l’option la moins chère avec PyTorch.
  3. Lancez le modèle . Le serveur est prêt en 2 à 5 minutes. Ouvrez Jupyter dans votre navigateur ou connectez-vous en SSH, puis lancez les commandes ci-dessous.

Terminé ? Arrêtez le serveur dans le tableau de bord et la facturation s’arrête. « Enregistrer et arrêter » conserve /workspace pour 0,03 € par Go et par mois, et le dossier revient automatiquement sur votre prochain serveur.

Installer et lancer

curl -fsSL https://ollama.com/install.sh | sh OLLAMA_HOST=0.0.0.0 ollama serve & ollama run qwen2.5:14b

À quoi sert Ollama

01

Essayer plusieurs modèles

ollama run télécharge un modèle par son nom : comparez Qwen, Llama et DeepSeek sur vos propres questions en une soirée.

02

Un assistant personnel

Ollama avec Open WebUI vous donne une fenêtre de chat dans le navigateur, avec l’historique de vos conversations.

03

Un backend pour un petit bot

L’API sur le port 11434 se branche à un chatbot ou à un script sans configuration supplémentaire.

Conseils avant le lancement

  • Ollama installe par défaut des versions en 4 bits : lisez la mémoire dans la colonne 4 bits.
  • Pour la charge de dizaines d’utilisateurs, vLLM est un meilleur choix.

Besoin d’un simple chat ? Une application prête à l’emploi, sans configuration

Si vous voulez utiliser le modèle pour discuter sans écrire de code, lancez ChatGPT privé : le serveur est livré avec Ollama, un modèle Qwen3 et la fenêtre de chat Open WebUI dans votre navigateur.

Questions fréquentes

Que peut-on lancer sur une carte de 24 Go ?

Qwen 2.5 32B, DeepSeek R1 Distill 32B ou Gemma 2 27B : tous tiennent en 4 bits.

Comment avoir une fenêtre de chat plutôt qu’un terminal ?

Lancez l’application prête à l’emploi ChatGPT privé : le serveur est livré avec Ollama, un modèle Qwen3 et Open WebUI, qui s’ouvre dans votre navigateur.

Combien de temps prend un lancement ?

Le serveur est généralement prêt en 2 à 5 minutes ; SSH et Jupyter sont alors disponibles. Le téléchargement du modèle dépend de sa taille et il est facturé comme du temps serveur normal.

Que deviennent mes modèles et résultats après l’arrêt ?

Au moment d’arrêter, cliquez sur Enregistrer et arrêter : le dossier /workspace avec vos modèles, LoRA et résultats est stocké pour 0,03 € par Go et par mois et revient automatiquement sur votre prochain serveur. Si vous arrêtez sans enregistrer, le disque est supprimé.

Comment est-ce facturé ?

À la minute, sur votre solde en euros. Rechargez à partir de 10 € ; pour lancer, votre solde doit couvrir au moins une heure d’utilisation de la machine choisie. Arrêtez le serveur et la facturation s’arrête.

Un serveur est généralement prêt en 2 à 5 minutes

Inscrivez-vous en une minute, rechargez dès 10 €, payez à la minute. Arrêtez le serveur et la facturation s’arrête.