GPUs mit 12 GB VRAM und mehr
Karten mit mindestens 12 GB Grafikspeicher gibt es bei VRAMfarm ab 0,12 € pro Stunde (RTX 3060). 12 GB fassen ein Sprachmodell mit etwa 18B Parametern in 4 Bit oder 5B in FP16. Für Bilder und Video: SDXL bequem, Flux in fp8 mit etwas Offloading.
12 GB sind der Einstieg in die KI-Arbeit: genug, um ComfyUI kennenzulernen, SDXL zu betreiben, mit Whisper zu transkribieren oder mit einem 8B-Modell zu chatten. Es ist auch der günstigste Speicher, den Sie mieten können.
Karten mit 12 GB oder mehr, günstigste zuerst
| GPU | Typ | Speicher | TFLOPS FP32 | Standort | Preis pro Stunde | ≈ pro Monat | Aktion |
|---|---|---|---|---|---|---|---|
| RTX 3060 | Consumer | 12 GB | ≈12,7 | +10 | 0,12 €/Std. | 86 € pro Monat | Mieten |
| RTX 4060 Ti | Consumer | 16 GB | ≈22,1 | +5 | 0,16 €/Std. | 115 € pro Monat | Mieten |
| RTX A4000 | Workstation | 16 GB | ≈19,2 | +1 | 0,18 €/Std. | 130 € pro Monat | Mieten |
| RTX 5070 Ti | Consumer | 16 GB | ≈43,9 | +3 | 0,24 €/Std. | 173 € pro Monat | Mieten |
| RTX 3090 | Consumer | 24 GB | ≈35,6 | +15 | 0,30 €/Std. | 216 € pro Monat | Mieten |
| RTX 4080 | Consumer | 16 GB | ≈48,7 | +7 | 0,31 €/Std. | 223 € pro Monat | Mieten |
| RTX A5000 | Workstation | 24 GB | ≈27,8 | 0,33 €/Std. | 238 € pro Monat | Mieten | |
| RTX 5080 | Consumer | 16 GB | ≈56,3 | +7 | 0,33 €/Std. | 238 € pro Monat | Mieten |
| L40 | Rechenzentrum | 48 GB | ≈90,5 | 0,46 €/Std. | 331 € pro Monat | Mieten | |
| RTX 4090 | Consumer | 24 GB | ≈82,6 | +16 | 0,59 €/Std. | 425 € pro Monat | Mieten |
| RTX A6000 | Workstation | 48 GB | ≈38,7 | 0,72 €/Std. | 518 € pro Monat | Mieten | |
| RTX 5090 | Consumer | 32 GB | ≈104,8 | +15 | 0,76 €/Std. | 547 € pro Monat | Mieten |
| L40S | Rechenzentrum | 48 GB | ≈91,6 | +1 | 1,06 €/Std. | 763 € pro Monat | Mieten |
| L4 | Rechenzentrum | 24 GB | ≈30,3 | 1,37 €/Std. | 986 € pro Monat | Mieten | |
| A100 | Rechenzentrum | 80 GB | ≈19,5 | +2 | 1,46 €/Std. | 1.051 € pro Monat | Mieten |
| RTX PRO 6000 | Workstation | 96 GB | ≈125 | +8 | 2,12 €/Std. | 1.526 € pro Monat | Mieten |
| H100 | Rechenzentrum | 80 GB | ≈67 | +1 | 3,90 €/Std. | 2.808 € pro Monat | Mieten |
| H200 | Rechenzentrum | 141 GB | ≈67 | +2 | 5,43 €/Std. | 3.910 € pro Monat | Mieten |
| B200 | Rechenzentrum | 192 GB | ≈80 | 16,12 €/Std. | 11.606 € pro Monat | Mieten |
Zum Starten muss Ihr Guthaben eine Stunde Laufzeit der Maschine abdecken. Abgerechnet wird minutengenau nach tatsächlicher Nutzung.
Was auf 12 GB läuft
Sprachmodelle
Bis etwa 18B Parameter in 4 Bit (AWQ, GPTQ, GGUF Q4) oder 5B in FP16, mit Platz für einen normalen Kontext. Langer Kontext und viele parallele Nutzer brauchen mehr. Der VRAM-Rechner rechnet es für Ihr Modell aus.
Bilder und Video
SDXL bequem, Flux in fp8 mit etwas Offloading.
Training
LoRA für SDXL mit kleinen Batches; QLoRA von Modellen bis etwa 3B.
Typische Aufgaben bei dieser Größe
- SDXL und Flux in fp8
- Chatmodelle bis 14B in 4 Bit
- Whisper und Text zu Sprache
Häufige Fragen
Welche ist die günstigste GPU mit 12 GB oder mehr?
Die NVIDIA GeForce RTX 3060 12GB, ab 0,12 € pro Stunde bei VRAMfarm, minutengenau abgerechnet.
Welches LLM kann ich auf 12 GB betreiben?
Etwa 18B Parameter in 4 Bit oder 5B in FP16, mit Platz für einen normalen Kontext. Zum Beispiel: Llama 3.1 8B, Qwen3 14B.
Kann ich den Speicher mehrerer GPUs kombinieren?
Bei Sprachmodellen ja: vLLM und llama.cpp teilen ein Modell auf mehrere Karten auf, 2 × 24 GB können also betreiben, was etwa 40 GB braucht. Bei Bild- und Videomodellen addiert sich der Speicher nicht, eine Karte muss das ganze Modell fassen.
Woran erkenne ich, ob 12 GB reichen?
Rechnen Sie die Gewichte (2 GB pro Milliarde Parameter in FP16, 0,6 GB in 4 Bit), den Kontext-Cache und 10–15 % für Puffer zusammen, oder nutzen Sie unseren VRAM-Rechner. Passt das Modell nicht, bricht es entweder mit „CUDA out of memory“ ab oder läuft mit Offloading deutlich langsamer.
12 GB VRAM mieten
Laden Sie ab 10 € auf, wählen Sie eine Karte aus der Liste und starten Sie in wenigen Minuten.