VRAMfarm-Logo VRAMfarm
DE
Registrieren
KI-Modelle ausführen · Qwen

Qwen auf einer gemieteten GPU betreiben

Qwen 32B passt in 4 Bit auf eine einzige 24-GB-Karte, die Versionen 7B und 14B brauchen 12 GB. Die Modelle von Alibaba sind stark mehrsprachig und deshalb eine beliebte Wahl für Chatbots in mehreren europäischen Sprachen. Wenn Sie einfach nur einen Chat ohne Einrichtung wollen, gibt es die fertige App „Private ChatGPT“ mit Qwen3 32B.

App
PyTorch
GPU
RTX 3060, 12 GB
Preis
ab 0,12 €/Std.

Zum Starten muss Ihr Guthaben eine Stunde Laufzeit der Maschine abdecken. Abgerechnet wird minutengenau nach tatsächlicher Nutzung.

Sie brauchen nur einen Chat? Die fertige App „Private ChatGPT“

Ein Dokument, ein Foto und ein Diagramm gehen in eine leuchtende Glaskugel, die mit einer Sprechblase antwortet
ab 5 GBGrafikspeicher
2–5 Minutenbis der Server läuft
Minutengenauvom Guthaben abgerechnet
SSH und JupyterZugang zum Server

Wie viel Speicher Sie brauchen und welche GPU passt

Qwen 2.5 7B belegt in 4 Bit etwa 5 GB Grafikspeicher, die günstigste passende Karte ist die RTX 3060. Die Preise werden beim Öffnen der Seite aus den verfügbaren Maschinen im Katalog aktualisiert.

VersionFP164 BitPassende GPUGPUPreis pro StundePro Std.
Qwen 2.5 7B 16 GB5 GB RTX 3060 0,12 €
Qwen 2.5 14B 31 GB10 GB RTX 3060 0,12 €
Qwen 2.5 32B 71 GB22 GB 2× RTX 3060 0,24 €
Qwen 2.5 72B 159 GB48 GB 4× RTX 4060 Ti 0,64 €

Schätzung: FP16 ≈ 2 GB pro Milliarde Parameter, 4 Bit ≈ 0,6 GB, dazu 10 % für den Kontext. Auswahl: die günstigste Konfiguration mit genug Speicher; bei großen Modellen sind das mehrere gleiche Karten. Alle GPUs und Preise

Qwen in 3 Schritten starten

  1. Registrieren und aufladen. Erstellen Sie ein Konto und laden Sie ab 10 € auf. Zum Starten muss Ihr Guthaben mindestens eine Stunde der gewählten Maschine abdecken, danach zahlen Sie minutengenau.
  2. GPU wählen. Den Speicherbedarf jeder Version zeigt die Tabelle oben, die kleinste läuft ab 5 GB. Die Schaltfläche auf dieser Seite wählt die günstigste Option mit dem Template PyTorch.
  3. Modell ausführen. Der Server ist in 2–5 Minuten bereit. Öffnen Sie Jupyter im Browser oder verbinden Sie sich per SSH und führen Sie die Befehle unten aus.

Fertig? Stoppen Sie den Server im Dashboard, dann endet die Abrechnung. „Speichern und stoppen“ behält /workspace für 0,03 € pro GB und Monat, auf Ihrem nächsten Server ist der Ordner automatisch wieder da.

Mit Ollama (am einfachsten)

curl -fsSL https://ollama.com/install.sh | sh ollama run qwen2.5:32b

Mit vLLM

pip install vllm vllm serve Qwen/Qwen2.5-32B-Instruct-AWQ --quantization awq

Wofür Qwen eingesetzt wird

01

Ein mehrsprachiger Chatbot

Kundensupport, Antworten aus einer Wissensdatenbank, E-Mail-Entwürfe. Für einen solchen Bot reicht 14B oft aus.

02

Ein Coding-Assistent

Qwen 2.5 Coder schreibt und erklärt Code, in denselben Größen wie das reguläre Modell.

03

Dokumente durcharbeiten

Einen Vertrag zusammenfassen, zwei Fassungen vergleichen, Fragen zu einem langen PDF beantworten.

04

Ein fertiger Chat im Browser

Die App „Private ChatGPT“ mit Qwen3 32B installiert sich selbst. Kein Abo und keine Nachrichtenlimits.

Tipps vor dem Start

  • Qwen 2.5 Coder ist ein eigener Zweig fürs Programmieren, in denselben Größen.
  • Die Entwickler veröffentlichen AWQ-Versionen, die bereits auf 4 Bit quantisiert sind und in vLLM sofort starten.
  • Für einen mehrsprachigen Chatbot reicht 14B oft völlig aus.

Sie brauchen nur einen Chat? Eine fertige App ohne Einrichtung

Wenn Sie das Modell für Gespräche brauchen und keinen Code schreiben möchten, starten Sie „Private ChatGPT“: Der Server kommt mit Ollama, einem Qwen3-Modell und dem Chatfenster Open WebUI im Browser.

Häufige Fragen

Welche GPU brauche ich für Qwen 32B?

In 4 Bit etwa 22 GB, also reicht eine RTX 3090, 4090 oder 5090.

Wie gut kommt es mit anderen Sprachen als Englisch zurecht?

Sehr gut. Qwen 2.5 gehört in seiner Größe zu den stärksten offenen Modellen für Deutsch, Französisch, Spanisch, Italienisch und viele weitere Sprachen.

Gibt es einen fertigen Chat mit Qwen?

Ja. Die App „Private ChatGPT“ installiert Open WebUI und Ollama mit Qwen3 32B (braucht eine 24-GB-Karte) oder Qwen3 8B (ab 12 GB). Der Chat öffnet sich per Schaltfläche im Dashboard in Ihrem Browser.

Wie lange dauert ein Start?

Der Server ist meist in 2–5 Minuten bereit, danach stehen SSH und Jupyter zur Verfügung. Wie lange der Download des Modells dauert, hängt von seiner Größe ab; die Zeit wird als normale Serverzeit abgerechnet.

Was passiert mit meinen Modellen und Ergebnissen nach dem Stoppen?

Klicken Sie beim Stoppen auf „Speichern und stoppen“: Der Ordner /workspace mit Ihren Modellen, LoRAs und Ergebnissen wird für 0,03 € pro GB und Monat gespeichert und ist auf Ihrem nächsten Server automatisch wieder da. Wenn Sie ohne Speichern stoppen, wird die Festplatte gelöscht.

Wie wird abgerechnet?

Minutengenau von Ihrem Guthaben in Euro. Sie laden ab 10 € auf; zum Starten muss Ihr Guthaben mindestens eine Stunde der gewählten Maschine abdecken. Stoppen Sie den Server, endet die Abrechnung.

Ein Server ist meist in 2–5 Minuten bereit

In einer Minute registrieren, ab 10 € aufladen, minutengenau bezahlen. Server stoppen, Abrechnung endet.