12. November 2026 · VRAMfarm-Team

Eigenes LLM oder API: Wann eine gemietete GPU günstiger ist als Bezahlung pro Token

Der häufigste Fehler bei dieser Rechnung: den Stundenpreis der GPU durch ihre Tokens pro Sekunde im besten Fall zu teilen. Unter Volllast erzeugt eine RTX 5090 eine Million Tokens mit einem 32B-Modell für etwa 0,35 €, und das sieht unschlagbar aus. Aber niemand hält eine Karte einen ganzen Monat unter Volllast. Bei 5 % Auslastung kostet dieselbe Million 7,04 €, mehr als gehostete offene Modelle und kleine proprietäre APIs verlangen. Ihr eigenes Modell auf einer gemieteten GPU gewinnt beim Preis, wenn die Karte ausgelastet ist: bei großen Batch-Jobs und gleichmäßigem Traffic. Bei gelegentlicher, sprunghafter Nutzung verliert es, denn eine API berechnet zwischen den Anfragen nichts. Datenschutz, ein feinabgestimmtes Modell oder ein Modell, das keine API anbietet, können die eigene GPU trotzdem zur richtigen Wahl machen, auch wenn sie mehr kostet.

Zwei Formeln und eine Annahme

Eigene GPU pro Monat = Stunden, die der Server läuft × Preis pro Stunde, dazu Traffic für Modell-Downloads und, wenn Sie Dateien behalten, der gespeicherte Ordner zu 0,03 € pro GB und Monat. Die Tokens ändern die Rechnung nicht, die Stunden schon.

API pro Monat = Tokens × Preis pro Million. Hier spielen die Stunden keine Rolle.

Die Annahme ist der API-Preis. Die Tarife unterscheiden sich um zwei Größenordnungen. Die Szenarien rechnen deshalb mit drei gerundeten Stufen, gemischt für ein typisches Chat-Verhältnis von Eingabe- und Ausgabe-Tokens, Stand November 2026:

Das sind Spannen für die Planung, nicht die Preisliste eines bestimmten Anbieters. Ersetzen Sie sie durch den Tarif, den Sie tatsächlich zahlen. Reasoning-Modelle berechnen ihre Denk-Tokens als Ausgabe, was die Tokenzahl einer sichtbaren Antwort verzwei- bis verfünffachen kann; auf der eigenen GPU gilt das auch, nur kostet es dort Zeit statt Geld.

Vier Monatsszenarien

Jeder Wert für die eigene GPU nutzt den heutigen Live-Preis der Karte und ändert sich also mit dem Katalog.

1. Eine Person, ein Assistent zum Programmieren und Schreiben. 40 Wechsel am Tag zu je etwa 3.000 Tokens (die Unterhaltung wird mit jeder Frage erneut geschickt) ergeben über 22 Arbeitstage 2,6 Millionen Tokens. Eigene GPU: Qwen3 32B auf einer RTX 4090, vier Stunden am Tag, 88 Stunden.

2. Ein Team von zehn während der Bürozeiten. Zehn solche Nutzer, 26 Millionen Tokens im Monat. Eigene GPU: eine RTX 4090 mit Qwen3 32B, 9 Stunden am Tag an 22 Tagen, 198 Stunden.

3. Ein Produkt-Chatbot rund um die Uhr. 300 Millionen Tokens im Monat, im Schnitt etwa 115 Tokens pro Sekunde mit Spitzen um ein Mehrfaches darüber. Eigene GPU: Qwen3 32B in 4 Bit mit vLLM auf einer RTX 5090, 730 Stunden.

4. Ein Batch-Job. 200.000 Dokumente mit je 2.000 Tokens zu Zusammenfassungen mit 200 Tokens verdichten: 400 Millionen Eingabe-Tokens und 40 Millionen Ausgabe-Tokens. Eigene GPU: Qwen3 32B in FP8 mit vLLM auf einer H100, etwa 18 Stunden, je nach Dokumentlänge und vLLM-Version irgendwo zwischen 12 und 30. Eingabe zu lesen geht viel schneller als Ausgabe zu schreiben, auf dieser Karte grob 5.000–12.000 Eingabe-Tokens pro Sekunde, und die 40 Millionen Ausgabe-Tokens entstehen aus vielen parallelen Anfragen mit 1.500–4.000 Tokens pro Sekunde.

Was die Tabelle zeigt:

• Eine Person: Eine API oder ein Chat-Abo gewinnt mit großem Abstand. Mieten Sie eine GPU nur, wenn die Daten eine Maschine unter Ihrer Kontrolle nicht verlassen dürfen.
• Ein Team: Die eigene GPU landet im Bereich der proprietären Spitzen-APIs und kostet mehr als kleine APIs und gehostete offene Modelle. Hier entscheidet der Datenschutz, nicht der Preis. Der Ratgeber zum privaten ChatGPT zeigt die Einrichtung für genau diesen Fall.
• Ein Bot rund um die Uhr: Bei diesem Volumen ist die eigene GPU deutlich günstiger als proprietäre Spitzen-APIs, etwa gleichauf mit kleinen proprietären und teurer als gehostete offene Modelle. Diese Anbieter füllen ihre Karten mit dem Traffic vieler Kunden, Sie Ihre nur mit Ihrem eigenen.
• Ein Batch-Job: Die eigene GPU liegt auf dem Niveau der günstigsten gehosteten offenen APIs oder darunter und weit unter den proprietären. Hier ist Mieten klar der günstigere Weg.

Die Auslastung entscheidet über den Preis pro Token

Die Kosten einer Million Tokens auf Ihrer eigenen Karte sind der Stundenpreis geteilt durch die Millionen Tokens, die sie in einer tatsächlich genutzten Stunde erzeugt. Nehmen Sie Qwen3 32B in 4 Bit auf einer RTX 5090 mit vLLM, etwa 600 Ausgabe-Tokens pro Sekunde bei vielen parallelen Anfragen, also 2,16 Millionen pro Stunde:

Der Durchsatz ist eine Planungsspanne aus Berichten der Community und einer Rechnung über die Bandbreite; die erste Zeile könnte also halb so hoch oder doppelt so hoch ausfallen, am Verlauf ändert das nichts. Eine größere Karte senkt die Kosten pro Token nur, wenn Sie sie auslasten können. Eine H100 im Leerlauf ist eine teure Karte im Leerlauf. Der Artikel zu den Kosten pro Million Tokens listet die Werte unter Volllast für 8B, 32B und 70B auf mehreren Karten.

Drei Dinge erhöhen die Auslastung, ohne mehr zu kosten. Lassen Sie Batch-Arbeit auf demselben Server laufen, wenn die interaktive Nutzung gering ist. Schicken Sie Anfragen parallel statt nacheinander; vLLM ist dafür gebaut, Ollama deutlich weniger, wie der Vergleich der Laufzeitumgebungen erklärt. Und stoppen Sie den Server, wenn ihn niemand braucht: Die Abrechnung endet in dieser Minute.

Kosten, die auf beiden Seiten gern vergessen werden

Auf der eigenen GPU:

• Modell-Downloads. Ein 32B-Modell in 4 Bit hat etwa 20 GB, ein 70B-Modell in FP8 etwa 71 GB. Downloads werden als Traffic zum GB-Tarif der Maschine abgerechnet, der vor dem Start angezeigt wird, dazu kommen die Minuten, die sie dauern.
• Das Minimum. Jeder Start wird mit mindestens 15 Minuten berechnet; zehn kurze Tests am Tag mit getrennten Starts kosten also zehnmal das Minimum.
• Stunden im Leerlauf. Ein über Nacht vergessener Server mit einer RTX 4090 kostet für zehn Stunden 5,90 €. Der Leerlaufschutz schickt Ihnen nach 2 Stunden ohne Verbindungen oder GPU-Last eine E-Mail und stoppt den Server eine Stunde später. Für einen Dienst rund um die Uhr schalten Sie ihn aber ab, und dann müssen Sie selbst auf Leerlaufstunden achten.
• Ihre Zeit. Modell auswählen, vLLM einrichten, überwachen. Für ein Team von zehn sind das einmalig ein paar Stunden, für ein Produkt laufende Arbeit.
• Eine Ausweichlösung. Ein Server ist eine Maschine. Planen Sie, was Ihr Produkt tut, wenn sie verschwindet: eine API als Rückfallebene oder ein Skript, das einen Ersatz startet.

Bei der API:

• Rate Limits, die einen großen Batch oder einen lebhaften Launch-Tag ausbremsen.
• Modelländerungen. Versionen werden eingestellt oder aktualisiert, und Antworten, auf die Sie Ihre Prompts abgestimmt haben, können sich ändern.
• Datenbedingungen. Lesen Sie, was der Anbieter mit Prompts und Ausgaben macht und wo er sie verarbeitet. Für manche Daten sind keine Bedingungen gut genug.
• Preisänderungen, in beide Richtungen, mit jeder neuen Modellgeneration.

Wann die eigene GPU unabhängig vom Preis gewinnt

• Die Daten müssen auf einer Maschine unter Ihrer Kontrolle bleiben. Verträge, Patientennotizen, Code unter NDA, Kundenlisten. Der gemietete Server ist eine Maschine bei einem unserer geprüften Anbieter, und ihr Land wird vor dem Start angezeigt, aber kein KI-Unternehmen bekommt Ihre Prompts.
• Sie betreiben Ihr eigenes feinabgestimmtes Modell. Eine LoRA, die auf Ihren Tickets oder Dokumenten trainiert wurde, stellt vLLM mit --enable-lora neben dem Basismodell bereit. Manche gehosteten APIs bieten LoRAs pro Token an, aber nur auf den Basismodellen, die sie selbst auswählen; andere berechnen ein eigenes Deployment pro Stunde, und das ist wirtschaftlich dasselbe wie Mieten. Ein LLM feinabstimmen behandelt die Seite des Trainings.
• Das Modell, das Sie brauchen, wird nicht angeboten, oder Sie brauchen eine exakte Version, die sich ein Jahr lang nicht ändert.
• Ein Kraftakt mit Termin. Ein Job über 10 Stunden ohne Rate Limits, zu einem Minutenpreis, der beim Start feststeht; Sie kennen die Rechnung also, bevor Sie anfangen.

Eine Aufteilung, die oft am günstigsten ist

Viele Teams teilen die Arbeit am Ende auf. Interaktiver, sprunghafter Traffic geht an eine API, wo Leerlauf nichts kostet. Große Batch-Jobs, Evaluationsläufe und alles mit sensiblen Daten gehen auf eine gemietete GPU, die mit dem Job startet und mit ihm endet, von Hand oder über unsere API mit einem Token aus den Einstellungen. Ein Team-Chat auf einem eigenen Server während der Bürozeiten liegt dazwischen: günstiger als Plätze auf einem proprietären Spitzenmodell, und privat.

Wenn Sie an einen Server denken, der ein Jahr lang 730 Stunden im Monat läuft, vergleichen Sie ihn mit dem Kauf einer Karte oder einem dedizierten Server zum Monatspreis; ab diesem Punkt spart die minutengenaue Abrechnung nichts mehr. Die Rechnung Mieten oder Kaufen geht den Break-even durch. Für alles unterhalb von Vollzeit nehmen Sie Ihre echte Tokenzahl aus dem letzten Monat, multiplizieren sie mit Ihrem API-Tarif und vergleichen das Ergebnis mit den Stunden, die Sie eine Karte tatsächlich laufen lassen würden.