12. November 2026 · VRAMfarm-Team
RTX 3090 oder RTX 4090 für KI: gleiche 24 GB, was Sie pro Job wirklich zahlen
Beide Karten haben 24 GB Grafikspeicher, eine RTX 3090 und eine RTX 4090 betreiben also genau dieselben Modelle. Was Ihnen die 4090 bringt, ist Tempo, und wie viel, hängt vom Job ab: etwa 1,6- bis 2,5-mal so schnell bei Bildern mit Flux und SDXL, etwa doppelt so schnell beim LoRA-Training und nur 10–20 % mehr Tokens pro Sekunde, wenn Sie mit einem Sprachmodell chatten. Die 3090 gibt es ab 0,30 € pro Stunde, die 4090 ab 0,59 €. Welche Karte für Ihren Job günstiger ist, entscheidet also ein einziger Vergleich: das Preisverhältnis gegen das Geschwindigkeitsverhältnis.
Die Daten, auf die es ankommt, im Vergleich
| RTX 3090 | RTX 4090 | |
|---|---|---|
| Architektur | Ampere (2020), sm_86 |
Ada Lovelace (2022), sm_89 |
| VRAM | 24 GB GDDR6X | 24 GB GDDR6X |
| Speicherbandbreite | 936 GB/s | 1.008 GB/s |
| FP16/BF16-Tensorleistung, dicht | etwa 71 TFLOPS | etwa 165 TFLOPS |
| Natives FP8 | Nein | Ja |
| L2-Cache | 6 MB | 72 MB |
| Leistungsaufnahme | 350 W | 450 W |
| NVLink | Anschluss für 2-Wege-Brücke | Keiner |
| Mietpreis | ab 0,30 €/h | ab 0,59 €/h |
Die Zeile zur Rechenleistung gilt für Akkumulation in FP32, den Modus, den PyTorch normalerweise fürs Training und die meisten Inferenzaufgaben nutzt.
Zwei Zeilen erklären fast jeden Benchmark, den Sie finden werden. Die Tensorleistung verdoppelt sich mehr als, alles, was durch die Rechenleistung begrenzt ist (Diffusionsmodelle, Training, das Lesen eines langen Prompts), läuft also etwa doppelt so schnell. Die Speicherbandbreite wächst nur um 8 %, das Erzeugen von Text Token für Token ändert sich also kaum: Für jedes neue Token liest die Karte das ganze Modell aus dem Speicher, und beide Karten lesen fast gleich schnell. Der viel größere L2-Cache der 4090 legt ein wenig drauf, deshalb liegt der tatsächliche Gewinn bei 10–20 % statt bei 8 %.
FP8 ist der dritte Unterschied. Beide Karten können fp8-Gewichte laden, Flux, Qwen-Image und Wan in fp8 belegen auf beiden also gleich viel Speicher. Nur die 4090 rechnet in fp8; die 3090 wandelt die Gewichte zuerst in 16 Bit um. In ComfyUI nutzt die Startoption --fast die fp8-Rechenwerke der 4090, und daher kommt das obere Ende der Spanne bis 2,5×.
Der Stromverbrauch zählt, wenn Sie eine Karte kaufen, denn 100 W mehr laufen jahrelang über Ihre Stromrechnung (die Rechnung Mieten oder Kaufen berücksichtigt das). Auf einer gemieteten Maschine ist der Strom im Stundenpreis enthalten, und pro fertigem Job verbraucht die 4090 oft weniger Energie, weil sie früher fertig ist.
Bilder und Video: Die 4090 ist 1,6- bis 2,5-mal so schnell
Diffusionsmodelle verbringen die meiste Zeit mit Matrizenrechnung und folgen deshalb der Zeile zur Rechenleistung. Die Werte unten gehen von 1024×1024, Batch-Größe 1 und einer ComfyUI-Warteschlange aus, die die Karte beschäftigt hält, dieselben Annahmen wie im Artikel zu den Kosten pro Bild.
| 1.000 Bilder | RTX 3090 | RTX 4090 | Kosten auf der 3090 | Kosten auf der 4090 |
|---|---|---|---|---|
| Flux.1 schnell fp8, 4 Schritte | 6–10 pro Minute: etwa 2 Std. 05 Min. | 12–25 pro Minute: etwa 1 Std. 07 Min. | 0,62 € | 0,65 € |
| Flux.1 dev fp8, 20 Schritte | 1,5–2,5 pro Minute: etwa 8 Std. 20 Min. | 4–6 pro Minute: etwa 3 Std. 20 Min. | 2,50 € | 1,96 € |
| SDXL, 30 Schritte | 6–9 pro Minute: etwa 2 Std. 23 Min. | 12–18 pro Minute: etwa 1 Std. 07 Min. | 0,71 € | 0,65 € |
Die Kostenspalten nutzen die heutigen Preise und bleiben deshalb aktuell. Sehen Sie sie sich an, bevor Sie entscheiden: Je nach Katalog des Tages kann die langsamere Karte pro Bild günstiger, etwa gleich teuer oder teurer sein.
Video folgt demselben Muster. Wan 2.2 5B passt in 24 GB und läuft auf beiden Karten, und unsere fertige Video-App akzeptiert beide. Die 4090 rendert einen 5-Sekunden-Clip in 720p in etwa 4–9 Minuten; auf einer 3090 rechnen Sie mit ungefähr der doppelten Zeit, weil Video-Diffusion genauso rechenintensiv ist wie Bilder. Wan 2.2 14B braucht auf beiden Karten mehr als 24 GB (siehe den VRAM-Ratgeber).
Was das in der Praxis heißt: Wenn Sie vor ComfyUI sitzen und auf jedes Ergebnis warten, halbiert die 4090 Ihre Wartezeit, und Ihre Zeit ist meist mehr wert als der Preisunterschied. Läuft ein Batch über Nacht und niemand wartet, zählen nur die Kosten pro Bild.
Sprachmodelle: fast gleich schnell
Hier entscheidet die Zeile zur Bandbreite. Ein 32B-Modell in 4 Bit wie Qwen3 32B hat etwa 20 GB. Bandbreite geteilt durch Modellgröße ergibt eine Obergrenze von etwa 47 Tokens pro Sekunde auf der 3090 und 50 auf der 4090; die echten Werte liegen auf beiden darunter.
| Job | RTX 3090 | RTX 4090 | Kosten auf der 3090 | Kosten auf der 4090 |
|---|---|---|---|---|
| 1 Mio. Ausgabe-Tokens, Qwen3 32B in 4 Bit, ein Nutzer (Ollama) | 25–35 Tokens/s, gerechnet mit 30: 9 Std. 16 Min. | 30–40 Tokens/s, gerechnet mit 35: 7 Std. 56 Min. | 2,78 € | 4,68 € |
| 10 Mio. Ausgabe-Tokens, 8B-Modell in BF16, vLLM mit 32–64 parallelen Anfragen | 800–2.000 Tokens/s, gerechnet mit 1.300: 2 Std. 08 Min. | 1.000–3.000 Tokens/s, gerechnet mit 2.000: 1 Std. 23 Min. | 0,64 € | 0,82 € |
Wenn eine Person chattet, ist der Gewinn so klein, dass die 3090 pro Token meist mit großem Abstand die günstigere Karte ist. Bei vielen parallelen Anfragen verschiebt sich die Arbeit zur Rechenleistung, und die 4090 zieht um etwa das 1,5-Fache davon.
In einem weiteren Fall gewinnt die 4090 klar: bei langen Prompts. Ein Dokument mit 20.000 Tokens vor der Antwort zu lesen ist rechenintensiv, die 4090 verarbeitet den Prompt also etwa doppelt so schnell, und das erste Wort der Antwort kommt in der halben Zeit. Wenn Sie lange Dokumente zusammenfassen oder Retrieval (RAG) über große Abschnitte laufen lassen, merken Sie diesen Unterschied.
Unser fertiger privater Chat mit Qwen3 32B läuft auf beiden Karten. Er ist auf 8.000 Tokens Kontext mit einem 8-Bit-KV-Cache eingestellt, denn mit einem längeren Standardkontext wanderte ein Teil des Modells auf die CPU und das Tempo fiel auf wenige Tokens pro Sekunde. Dieselbe Grenze gilt für beide Karten: gleicher Speicher, gleiche Obergrenze.
Das beantwortet auch eine häufige Frage: Was zählt bei LLMs mehr, VRAM oder Bandbreite? Der VRAM entscheidet, ob das Modell überhaupt läuft, die Bandbreite, wie schnell es spricht. Zwischen diesen beiden Karten ist der VRAM gleich und die Bandbreite fast gleich, das Chat-Erlebnis ist also fast dasselbe. Für spürbar schnelleren Text ist der nächste Schritt die RTX 5090 mit 32 GB und 1.792 GB/s.
Training und LoRA: auf der 4090 etwa doppelt so schnell
Training ist rechenintensiv, die zusätzlichen Tensorkerne der 4090 zählen also voll. Eine typische LoRA für Flux.1 dev (20–30 beschriftete Bilder, etwa 2.000 Schritte, das Basismodell in 8 Bit geladen, damit es in 24 GB passt):
| Lauf | RTX 3090 | RTX 4090 |
|---|---|---|
| LoRA für Flux.1 dev, 2.000 Schritte | 2,5–4 Std., gerechnet mit 3 Std.: 0,90 € | 1–2,5 Std., gerechnet mit 1,5 Std.: 0,89 € |
| QLoRA auf einem 8B-Sprachmodell | läuft, etwa mit halber Geschwindigkeit | läuft |
Rechnen Sie auf beiden Karten 15–25 Minuten für die Installation des Trainers und den Download des Basismodells hinzu; jeder Start wird mit mindestens 15 Minuten berechnet.
Weil der Speicher gleich ist, funktionieren dieselben Trainer-Einstellungen (Auflösung, Batch-Größe, Gradient Checkpointing, Basismodell in 8 Bit) auf beiden. Ein praktisches Vorgehen: Datensatz und Konfiguration auf einer 3090 austesten und das lange Training dann auf der Karte laufen lassen, die an diesem Tag pro Stunde Fortschritt günstiger ist. Volles Fine-Tuning von Modellen ab 8B braucht auf beiden Karten mehr als 24 GB, also eine 80-GB-Karte oder mehrere Karten.
So rechnen Sie aus, welche Karte für Ihren Job günstiger ist
Kosten pro Job sind Preis pro Stunde × Stunden. Die 4090 ist also genau dann günstiger, wenn ihr Stundenpreis kleiner ist als ihr Geschwindigkeitsvorsprung mal der Preis der 3090.
| Art des Jobs | Tempo der 4090 gegenüber der 3090 | Die 4090 ist pro Job günstiger, wenn sie weniger kostet als |
|---|---|---|
Flux, Qwen-Image oder Wan in fp8 mit --fast |
2–2,5× | das 2- bis 2,5-Fache des Stundenpreises der 3090 |
| Bilder ohne fp8-Beschleunigung, SDXL | 1,6–2× | das 1,6- bis 2-Fache des Preises der 3090 |
| LoRA und anderes Training | etwa 2× | etwa das 2-Fache |
| LLM-Betrieb mit vielen parallelen Anfragen | etwa 1,5× | etwa das 1,5-Fache |
| LLM-Chat, ein Nutzer | 1,1–1,2× | das 1,1- bis 1,2-Fache |
Gerade heißt das: 0,59 € mit 0,30 € vergleichen. Die Preise im Katalog sind live und bewegen sich im Laufe des Tages; sehen Sie also beim Start auf die Preisseite. Der Minutenpreis steht dann für diesen Server fest, bis Sie ihn stoppen.
Rechnen Sie dann Ihre eigene Zeit hinzu. Fünf gesparte Stunden bei einem Batch mit 1.000 Bildern sind etwas wert, auch wenn die Kosten pro Bild ein paar Cent höher liegen.
Wann die 3090 die kluge Wahl ist
- Chatten mit Sprachmodellen bis 32B oder deren Betrieb. Gleicher Speicher, fast gleich viele Tokens pro Sekunde, ein viel niedrigerer Preis pro Token.
- Batches über Nacht und am Wochenende. Niemand wartet, die Kosten pro Job sind also die einzige Zahl, und die gewinnt oft die 3090.
- Einrichten. Einen Trainer installieren, einen Datensatz bereinigen, einen ComfyUI-Workflow bauen: Die GPU hat dabei meist nichts zu tun. Machen Sie das auf der günstigeren Karte und wechseln Sie für den eigentlichen Lauf.
- Wenn die 4090 vergeben sind. Der Katalog zeigt, wie viele Maschinen jedes Typs frei sind.
Und wann sich die 4090 lohnt: bei interaktiver Bildarbeit, bei Bild- und Videomodellen in fp8, bei Training, auf dessen Ergebnis Sie warten, und bei langen Prompts. Brauchen Sie mehr als 24 GB, hilft keine der beiden Karten; die Seite zur RTX 4090 listet die größeren Optionen daneben auf.
Woran Sie erkennen, wann der Umstieg lohnt
Mit der kleineren Karte anzufangen und aufzusteigen ist eine gute Gewohnheit, solange Sie wissen, worauf Sie achten müssen. Führen Sie nvidia-smi -l 2 in einem zweiten Terminal aus, während der Job läuft:
- „CUDA out of memory“: Sie brauchen mehr VRAM, keine schnellere Karte. Eine 4090 hat dieselben 24 GB und scheitert genauso.
- GPU-Auslastung bei 90–100 % und Sie warten: Die Karte ist der Engpass, und eine schnellere Karte (4090, dann 5090) hilft.
- Auslastung niedrig oder springt zwischen 0 und 100 %: Etwas anderes ist langsam, meist das Laden der Daten, die CPU oder ein Modell, das ein- und ausgelagert wird. Eine schnellere GPU ändert nichts; beheben Sie zuerst die Pipeline.
Trifft der zweite Fall zu, stoppen Sie die 3090, speichern Sie den Ordner und starten Sie eine 4090 mit derselben Einrichtung. Sie verlieren ein paar Minuten und das Minimum von 15 Minuten für den neuen Start, und Sie wissen, dass der Geschwindigkeitsgewinn echt ist.