VRAMfarm-Logo VRAMfarm
DE
Registrieren

Blog

Praktische Anleitungen zur GPU-Wahl, zum Betrieb offener KI-Modelle und dazu, wie Sie Rechenkosten im Griff behalten.

Eine 3D-Innenraumszene wird Frame für Frame auf vier gemieteten GPUs gerendert: Blender Cycles auf einer gemieteten GPU rendern 12. November 2026

Blender auf einer gemieteten GPU rendern: Cycles headless, mehrere Maschinen, Octane, Redshift

Blender Cycles mit OptiX per Kommandozeile auf einer RTX 4090 oder 5090 rendern, 240 Frames auf vier Maschinen verteilen und den Preis pro Frame vorab berechnen.

Ein GPU-Server mit Sanduhr und Ausschalter, sein Ordner wird vor dem Stopp gespeichert: keine GPU im Leerlauf bezahlen 12. November 2026

Keine GPU im Leerlauf bezahlen: automatischer Stopp, tmux und Stopp per Code

Eine vergessene RTX 4090 läuft über Nacht 15 Stunden, mit Auto-Stopp etwa 3. Was als Aktivität zählt, tmux für Nachtjobs und ein Stopp per Code in einer Zeile.

Speicherbalken für QLoRA, LoRA und volles Fine-Tuning von 8B-, 32B- und 70B-Modellen auf einer und mehreren GPUs: wie viele GPUs zum LLM-Fine-Tuning 12. November 2026

LLM feintunen: wie viel VRAM und wie viele GPUs für QLoRA, LoRA und volles Fine-Tuning

QLoRA passt mit 8B auf 16 GB und mit 70B auf eine 80-GB-Karte; volles Fine-Tuning braucht rund 16 Bytes pro Parameter. Speicher, Karten, Tools, Stunden, Kosten.

Eine nächtliche Uhr startet einen GPU-Server, der einen Batch-Job ausführt und sich selbst abschaltet: GPU-API für Batch-Jobs 12. November 2026

GPU-API für Batch-Jobs: Server nachts starten, Job ausführen, danach stoppen

Ein Skript für cron in curl und Python: GPU starten, warten, Job oder Docker-Image ausführen, Ergebnisse kopieren und stoppen, mit fester Ausgabengrenze.

Eine RTX 4090 für Endkunden neben A100- und H100-Modulen fürs Rechenzentrum mit ihren Speichergrößen: H100 vs. A100 vs. RTX 4090 für KI 12. November 2026

H100 vs. A100 vs. RTX 4090: Wann sich eine Rechenzentrums-GPU für KI lohnt

80 GB gegen 24 GB, 3,35 TB/s gegen 1 TB/s, FP8 und NVLink. Die RTX 4090 ist pro Bild am günstigsten, A100 und H100 gewinnen bei großen Modellen. Mit Kosten pro Job.

Zwei Hopper-GPU-Module mit Speicherstapeln von 80 GB und 141 GB und dazwischen ein Dokument mit langem Kontext: H200 vs. H100 12. November 2026

H200 vs. H100: Wann sich 141 GB lohnen und wann 80 GB reichen

Gleiche Hopper-Rechenleistung, 141 gegen 80 GB und 4,8 gegen 3,35 TB/s. Die H200 gewinnt bei 70B in fp8, langem Kontext und 235B-MoE in 4 Bit, die H100 bei fast allem anderen.

Ein GPU-Server in einem verschlossenen Container mit Länderflagge und ein Ordner mit Schlüssel: Sind meine Daten auf einer gemieteten GPU sicher? 12. November 2026

Sind meine Daten auf einer gemieteten GPU sicher? Wer sie sieht, wo sie liegen, DSGVO

Eine ehrliche Antwort: was ein Anbieter technisch sehen könnte, was Container und gelöschte Festplatten schützen, DSGVO in einfachen Worten und 6 Schritte gegen das Risiko.

Daten fließen aus einem Cloud-Bucket und von einem Laptop in einen GPU-Server, Ergebnisse fließen zurück: Datensätze auf einen GPU-Server übertragen 12. November 2026

Datensätze auf einen GPU-Server und zurück: Hugging Face, rclone, rsync, scp

100 GB in etwa 20 Minuten herunterladen statt 5 Stunden hochladen. Hugging Face, rclone aus S3 oder Drive, rsync, Grenzen von Jupyter und Traffic-Kosten pro GB.

Vier GPUs in einem Server, verbunden durch Datenleitungen, mit darauf verteilten Modellteilen: Grundlagen des Multi-GPU-Trainings mit DDP, FSDP und ZeRO 12. November 2026

Multi-GPU-Training: DDP, FSDP und ZeRO auf einer gemieteten Maschine mit 2–8 GPUs

Wenn eine Karte nicht reicht: Daten- oder Modellparallelität, Speicher pro GPU mit FSDP und DeepSpeed ZeRO, NVLink oder PCIe, 2–8 Karten mieten, NCCL-Hänger vermeiden.

Eine Monatsrechnung für eine LLM-API neben einer gemieteten GPU, die ein offenes Modell bei unterschiedlicher Last betreibt: Kostenvergleich eigenes LLM oder API 12. November 2026

Eigenes LLM oder API: Wann eine gemietete GPU günstiger ist als Bezahlung pro Token

Vier Monatsszenarien in Euro: ein Nutzer, ein Team von zehn, ein Produkt-Bot rund um die Uhr und ein Batch-Job mit 440 Mio. Tokens. Wo die API gewinnt, wo die eigene GPU.

Das Chatfenster von Open WebUI antwortet auf einer gemieteten GPU, das Modell läuft auf demselben Server: ein privates ChatGPT mit einem offenen Modell 12. November 2026

Ihr eigenes privates ChatGPT: Open WebUI mit Ollama oder vLLM auf einer gemieteten GPU

Ein Chat wie ChatGPT mit Qwen3 oder MiMo in etwa 10 Minuten: welche Karte für 8B, 32B und 70B, was privat bleibt, wie Sie ihn im Team teilen, Kosten pro Monat.

Eine RTX 3090 und eine RTX 4090 nebeneinander mit gleich hohen 24-GB-Speicherstapeln und unterschiedlichen Tachos: RTX 3090 oder RTX 4090 für KI 12. November 2026

RTX 3090 oder RTX 4090 für KI: gleiche 24 GB, was Sie pro Job wirklich zahlen

Die 4090 erzeugt Bilder 1,6- bis 2,5-mal so schnell, LLM-Text aber nur 10–20 % schneller. Wann die RTX 3090 pro Bild, pro Token und pro LoRA günstiger ist.

Eine RTX 5090 mit einem 32-GB-Speicherstapel aus GDDR7, höher als einer mit 24 GB, und die Modelle, die jetzt passen: die RTX 5090 für KI 12. November 2026

RTX 5090 für KI: Was mit 32 GB GDDR7 läuft und mit 24 GB nicht

8 GB mehr als eine 4090 und 78 % mehr Bandbreite: 32B-Modelle mit langem Kontext, Wan 2.2 14B in fp8, Flux in bf16. Tempo, CUDA 12.8 und wann Sie 48 GB brauchen.

Eine einzelne 48-GB-GPU mit einem Llama-70B-Modell in 4 Bit und seinem KV-Cache: wie Sie ein 70B-Modell auf einer GPU betreiben 12. November 2026

Llama 70B auf einer GPU: 4 Bit oder FP8, 48 GB oder 80 GB und echte Geschwindigkeiten

Llama 3.3 70B in 4 Bit belegt 40–43 GB: eine 48-GB-Karte bei 8.000–16.000 Tokens Kontext, 80 GB für lange Dokumente oder mehrere Nutzer. Formate, Befehle, Tokens/s.

Ein Windows-Laptop mit geöffneter PowerShell, per Schlüssel mit einem GPU-Server verbunden: wie Sie sich unter Windows per SSH mit einem GPU-Server verbinden 12. November 2026

Per SSH unter Windows 10 und 11 auf einen GPU-Server: Schlüssel, Verbindung, Fehler

Fünf PowerShell-Befehle, kein PuTTY: Schlüssel erstellen, .pub-Datei finden, verbinden. Dazu Lösungen für Permission denied, VS Code, scp und Jupyter ohne SSH.

Eine Wellenform, die aus einer kleinen 12-GB-Grafikkarte kommt, daneben ein Mikrofon und ein Skript: Text to Speech und Stimmklonen auf der eigenen GPU 12. November 2026

Text to Speech auf eigener GPU: Qwen3-TTS, VoxCPM2 und Stimmklonen mit Chatterbox

Drei kostenlose Sprach-Apps auf einer 12-GB-Karte: fertige Stimmen, bis zu 30 Sprachen, eine geklonte Stimme aus 5 Sekunden, Kosten pro Stunde Sprechertext, Einwilligung.

Ein Raster aus zwanzig Porträtfotos fließt in eine GPU und kommt als kleine LoRA-Datei heraus: eine Flux-LoRA mit eigenen Fotos trainieren 12. November 2026

Flux-LoRA mit eigenen Fotos trainieren: 20 Bilder, 24 GB und etwa zwei Stunden

Wie viele Fotos, welche Captions, ai-toolkit oder FluxGym, 24 oder 16 GB, 2.000 Schritte in 1–2,5 h auf einer RTX 4090, und was danach mit Ihren Fotos passiert.

Drei Terminals nebeneinander, in denen vLLM, Ollama und llama.cpp auf einer gemieteten GPU laufen: welche LLM-Laufzeitumgebung Sie wählen sollten 12. November 2026

vLLM, Ollama oder llama.cpp: womit Sie Ihr LLM betreiben, mit den Befehlen

Ollama für eine Person in fünf Minuten, llama.cpp für volle Kontrolle, vLLM für eine API mit vielen Nutzern: Tempo, Formate, Speicherverhalten und Startbefehle.

Ein Streifen von Wan 2.2 gerenderter Videobilder neben zwei GPUs mit 24 GB und 48 GB Speicher: Videos mit Wan 2.2 auf einer gemieteten GPU erzeugen 12. November 2026

Wan-2.2-Video auf einer gemieteten GPU: 5B oder 14B, wie viel VRAM, wie lange pro Clip

Wan 2.2 5B rendert 5 s in 720p auf einer 24-GB-Karte in 4–9 Minuten; 14B braucht 48 GB und sieht deutlich besser aus. Welche Karte, Grenzen und Kosten pro Clip.

Audio-Wellenformen werden auf einer GPU zu Transkriptzeilen mit Zeitstempeln und Sprecherlabels: Transkription mit Whisper auf einer gemieteten GPU 12. November 2026

Whisper-Transkription auf der GPU: large-v3 oder turbo, faster-whisper, Sprecher mit WhisperX

Whisper auf einer gemieteten GPU: 3–10 GB VRAM, 20 bis 250 Stunden Audio pro GPU-Stunde, Kosten für 100 Stunden, SRT-Untertitel und Sprecherlabels mit WhisperX.

Vier Grafikkarten nach Speicher aufgereiht, 16, 24, 32 und 48 GB, neben einem ComfyUI-Node-Graph: die beste GPU für Flux und SDXL wählen 11. November 2026

Beste GPU für Flux, SDXL und ComfyUI: 16 GB, RTX 3090, 4090, 5090 und 48-GB-Karten

SDXL läuft mit 12 GB, Flux mit 16 GB, Qwen-Image und HiDream brauchen 24 GB, Wan 2.2 14B 32–48 GB. Welche Karte Sie für ComfyUI mieten und wann die schnellere günstiger ist.

ComfyUI-Node-Graph im Browser neben einem Terminal, das eine LoRA herunterlädt: ComfyUI auf einer gemieteten GPU 11. November 2026

ComfyUI auf einer gemieteten GPU: eigene Modelle, LoRAs, Custom Nodes und die 502-Seite

ComfyUI auf einer gemieteten GPU ab 0,59 € pro Stunde: wann es bereit ist, wohin Modelle und LoRAs gehören, wie Sie Custom Nodes installieren und behalten.

Kosten pro Bild, Videoclip und Million Tokens auf einer gemieteten GPU, dargestellt als Kassenbons neben einer RTX 4090 und einer H100 11. November 2026

Kosten pro Bild, Videoclip und Million Tokens auf einer gemieteten GPU, durchgerechnet

1.000 Flux-Bilder, ein 5-Sekunden-Clip mit Wan 2.2, eine Million Tokens von 8B bis 70B, eine Flux-LoRA: Gesamtkosten mit Live-Preisen in Euro und offener Rechnung.

nvidia-smi-Ausgabe mit hervorgehobener Treiber- und CUDA-Version neben einer PyTorch-Versionsprüfung auf einer gemieteten GPU 11. November 2026

CUDA-Treiber passt nicht: PyTorch und ComfyUI auf einer gemieteten GPU reparieren

„Driver too old“, „no CUDA GPUs available“, sm_120-Fehler: das PyTorch-Wheel (cu126, cu128, cu130) in 2 Minuten an den Treiber anpassen oder die passende Maschine wählen.

Terminal mit einem CUDA-out-of-memory-Fehler neben einem Speicherbalken von nvidia-smi auf einer gemieteten GPU 11. November 2026

CUDA out of memory: So beheben Sie den Fehler in ComfyUI, bei LLMs und im Training

CUDA out of memory nach Aufgabe beheben: FP8 und Tiled VAE für Flux, Kontext und KV-Cache bei LLMs, 8-Bit-Optimizer im Training und wann eine größere Karte günstiger ist.

Ein Notebook mit der Meldung „Runtime disconnected“ neben dem Dashboard eines gemieteten GPU-Servers: Google Colab oder gemietete GPU 11. November 2026

Google Colab oder gemietete GPU: Abbrüche, Compute Units und die echten Kosten pro Stunde

Colab ist kostenlos oder günstig, bis Sitzungen nach Stunden abbrechen und Units ausgehen. Wann Colab reicht und wann eine GPU ab 0,30 € pro Stunde besser ist.

Ein Sitzungsbeleg, aufgeteilt in GPU-Minuten, Traffic und Ordnerspeicher, neben einer laufenden GPU: Abrechnung bei der GPU-Miete erklärt 11. November 2026

Abrechnung bei der GPU-Miete: minutengenau, mindestens 15 Minuten, Traffic und Speicher

Wann die Abrechnung beginnt und endet, warum der Preis beim Start feststeht, was Traffic und der gespeicherte Ordner kosten, und eine Sitzung Minute für Minute durchgerechnet.

Gestapelte Speicherblöcke nach Modellgröße, vom 8B-Chatmodell bis zum 235B-MoE: wie viel VRAM Sie für LLMs, Bild- und Videomodelle brauchen 11. November 2026

Wie viel VRAM brauche ich? Tabelle für LLMs, Flux, Wan-2.2-Video und Training

VRAM = Gewichte × Bytes pro Parameter + KV-Cache + Overhead. Ein 70B-Modell in 4 Bit braucht rund 43 GB nur für die Gewichte. Tabellen nach Modell, Quantisierung und Karte.

Eine RTX 4090 und eine RTX 5090 auf einer Waage gegen einen Stapel Euromünzen: GPUs für KI mieten oder kaufen 11. November 2026

RTX 4090 oder RTX 5090 für KI mieten oder kaufen: Break-even in Stunden, Stand 2026

Eine gebrauchte RTX 4090 kostet etwa 2.000 €, eine 5090 etwa 4.500 € (Nov. 2026). Kaufen lohnt sich ab rund 90 GPU-Stunden im Monat. Die ganze Rechnung im Artikel.

Eine Serverfestplatte wird geleert, während ein Ordner /workspace in einen sicheren Speicher wandert: was mit Ihren Dateien beim Stoppen eines GPU-Servers passiert 11. November 2026

Was mit Ihren Dateien passiert, wenn Sie einen GPU-Server stoppen, und wie Sie sie behalten

Stoppen löscht die Serverfestplatte. „Speichern und stoppen“ behält /workspace für 0,03 € pro GB und Monat, auf jeder Karte. Wann Sie Modelle speichern, wann neu laden.