VRAMfarm-Logo VRAMfarm
DE
Registrieren
KI-Modelle ausführen · DeepSeek

DeepSeek R1 auf einer gemieteten GPU betreiben

Die Distills 7B und 14B von DeepSeek R1 laufen auf einer 12-GB-Karte, die 32B-Version braucht in 4 Bit etwa 23 GB. Das vollständige R1 mit 671B benötigt Hunderte Gigabyte VRAM. In der Praxis nutzt man daher die Distills: Sie passen auf eine oder zwei Karten.

App
PyTorch
GPU
RTX 3060, 12 GB
Preis
ab 0,12 €/Std.

Zum Starten muss Ihr Guthaben eine Stunde Laufzeit der Maschine abdecken. Abgerechnet wird minutengenau nach tatsächlicher Nutzung.

Sie brauchen nur einen Chat? Die fertige App „Private ChatGPT“

Eine Kette von Chips steigt Stufe für Stufe zu einer Sprechblase aus Glas auf
ab 5 GBGrafikspeicher
2–5 Minutenbis der Server läuft
Minutengenauvom Guthaben abgerechnet
SSH und JupyterZugang zum Server

Wie viel Speicher Sie brauchen und welche GPU passt

R1 Distill 7B belegt in 4 Bit etwa 5 GB Grafikspeicher, die günstigste passende Karte ist die RTX 3060. Die Preise werden beim Öffnen der Seite aus den verfügbaren Maschinen im Katalog aktualisiert.

VersionFP164 BitPassende GPUGPUPreis pro StundePro Std.
R1 Distill 7B 16 GB5 GB RTX 3060 0,12 €
R1 Distill 14B 31 GB10 GB RTX 3060 0,12 €
R1 Distill 32B 71 GB22 GB 2× RTX 3060 0,24 €
R1 Distill 70B 154 GB47 GB 4× RTX 4060 Ti 0,64 €
R1 / V3 vollständig (671B, MoE) 1477 GB443 GB 8× A100 11,68 €

Schätzung: FP16 ≈ 2 GB pro Milliarde Parameter, 4 Bit ≈ 0,6 GB, dazu 10 % für den Kontext. Auswahl: die günstigste Konfiguration mit genug Speicher; bei großen Modellen sind das mehrere gleiche Karten. Alle GPUs und Preise

DeepSeek in 3 Schritten starten

  1. Registrieren und aufladen. Erstellen Sie ein Konto und laden Sie ab 10 € auf. Zum Starten muss Ihr Guthaben mindestens eine Stunde der gewählten Maschine abdecken, danach zahlen Sie minutengenau.
  2. GPU wählen. Den Speicherbedarf jeder Version zeigt die Tabelle oben, die kleinste läuft ab 5 GB. Die Schaltfläche auf dieser Seite wählt die günstigste Option mit dem Template PyTorch.
  3. Modell ausführen. Der Server ist in 2–5 Minuten bereit. Öffnen Sie Jupyter im Browser oder verbinden Sie sich per SSH und führen Sie die Befehle unten aus.

Fertig? Stoppen Sie den Server im Dashboard, dann endet die Abrechnung. „Speichern und stoppen“ behält /workspace für 0,03 € pro GB und Monat, auf Ihrem nächsten Server ist der Ordner automatisch wieder da.

Mit Ollama (am einfachsten)

curl -fsSL https://ollama.com/install.sh | sh ollama run deepseek-r1:32b

Mit vLLM (API, hohe Last)

pip install vllm vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --max-model-len 16384

Wofür DeepSeek eingesetzt wird

01

Aufgaben mit Nachdenken

Mathematik, Logik, einen Fehler im Code finden. R1 schreibt seinen Gedankengang vor der Antwort aus, sodass Sie ihn nachprüfen können.

02

Suche in Ihren Dokumenten

RAG auf Verträgen, Handbüchern oder einer Wissensdatenbank: Das Modell antwortet und verweist auf die passende Stelle.

03

Eine API für Bot oder Website

vLLM stellt eine OpenAI-kompatible API bereit. Sie müssen Ihren Client-Code nur auf Ihren eigenen Server umstellen.

Tipps vor dem Start

  • Der 32B-Distill in 4 Bit bietet das beste Verhältnis von Qualität und Preis: Er passt auf eine einzige RTX 3090 oder 4090.
  • R1 denkt ausführlich nach. Planen Sie daher 16–32k Token Kontext ein, das kostet ein paar Gigabyte zusätzlichen Speicher.
  • Das vollständige 671B lohnt sich nur in 4 Bit auf 8× H100 oder H200, und das kostet mehrere Dutzend Euro pro Stunde.

Sie brauchen nur einen Chat? Eine fertige App ohne Einrichtung

Wenn Sie das Modell für Gespräche brauchen und keinen Code schreiben möchten, starten Sie „Private ChatGPT“: Der Server kommt mit Ollama, einem Qwen3-Modell und dem Chatfenster Open WebUI im Browser.

Häufige Fragen

Welche GPU brauche ich für DeepSeek R1?

Für den 7B-Distill reicht eine Karte mit 8–12 GB, für 32B in 4 Bit braucht es 24 GB (RTX 3090 oder 4090) und für 70B in 4 Bit 48 GB (RTX A6000, L40S) oder zwei 24-GB-Karten.

Kann ich das vollständige DeepSeek R1 671B betreiben?

Ja, aber selbst in 4 Bit braucht es etwa 400 GB VRAM. Das bedeutet 8× H100 oder H200.

Worin unterscheidet sich ein Distill vom vollständigen Modell?

Distills sind Qwen- und Llama-Modelle, die auf das Reasoning von R1 feingetunt wurden. Sie sind schwächer als das Original, aber im Betrieb um ein Vielfaches günstiger.

Wie lange dauert ein Start?

Der Server ist meist in 2–5 Minuten bereit, danach stehen SSH und Jupyter zur Verfügung. Wie lange der Download des Modells dauert, hängt von seiner Größe ab; die Zeit wird als normale Serverzeit abgerechnet.

Was passiert mit meinen Modellen und Ergebnissen nach dem Stoppen?

Klicken Sie beim Stoppen auf „Speichern und stoppen“: Der Ordner /workspace mit Ihren Modellen, LoRAs und Ergebnissen wird für 0,03 € pro GB und Monat gespeichert und ist auf Ihrem nächsten Server automatisch wieder da. Wenn Sie ohne Speichern stoppen, wird die Festplatte gelöscht.

Wie wird abgerechnet?

Minutengenau von Ihrem Guthaben in Euro. Sie laden ab 10 € auf; zum Starten muss Ihr Guthaben mindestens eine Stunde der gewählten Maschine abdecken. Stoppen Sie den Server, endet die Abrechnung.

Ein Server ist meist in 2–5 Minuten bereit

In einer Minute registrieren, ab 10 € aufladen, minutengenau bezahlen. Server stoppen, Abrechnung endet.