Die schnelle Antwort: Mieten oder Kaufen?
Mieten, wenn eines davon zutrifft: Ihre GPU-Auslastung liegt unter 60 %, Ihr Projekthorizont beträgt weniger als 18 Monate, Sie brauchen Flexibilität zum Hoch- und Herunterskalieren, oder Sie wollen Zugang zur neuesten Hardware ohne Abschreibungsrisiko.
Kaufen, wenn all dies zutrifft: Sie haben eine anhaltende Auslastung über 60 % rund um die Uhr, Ihr Workload ist stabil und vorhersehbar für 2+ Jahre, Sie haben das Kapital und Personal zur Verwaltung physischer Infrastruktur, und Sie sind mit 18–24-monatigen Abschreibungszyklen einverstanden.
Für die meisten Organisationen lautet die Antwort hybrid: Eine Basislinie an Kapazität für vorhersehbare Workloads besitzen und von Cloud-Anbietern oder GPU-Marktplätzen für Spitzen, Experimente und Zugang zu neuerer Hardware mieten.
Der Rest dieses Leitfadens führt die Mathematik im Detail durch.
Die wahren Kosten des Kaufs eines GPU-Servers
Der Kaufpreis einer GPU ist nur der Anfang. Ein produktionsreifer GPU-Server umfasst mehrere Kostenschichten, die viele Analysen übersehen.
Hardware-Kosten
| Komponente | Kostenspanne | Anmerkungen |
|---|---|---|
| GPU (×8 H100 SXM) | 200.000–320.000 $ | 8 GPUs für einen Standard-Trainingsknoten |
| Server-Chassis + CPU | 10.000–25.000 $ | Dual-Socket-Server mit vielkernigen CPUs |
| System-RAM | 3.000–8.000 $ | 512 GB–1 TB DDR5 |
| NVMe-Speicher | 2.000–10.000 $ | 4–16 TB für Datensätze und Checkpoints |
| Hochgeschwindigkeitsnetzwerk | 5.000–15.000 $ | InfiniBand oder 400GbE für Multi-Node-Training |
| Netzteil | 2.000–5.000 $ | Redundante Netzteile für 10 kW+ Verbrauch |
| Hardware gesamt | 222.000–383.000 $ | Für einen einzelnen 8×H100-Knoten |
Ein einzelner Trainingsknoten mit 8×H100 GPUs beginnt bei etwa 220.000 $ und kann 380.000 $ mit Enterprise-Grade-Netzwerk und -Speicher übersteigen. Für einen Multi-Node-Trainingscluster (üblich bei Modellen über 70B Parameter) multiplizieren Sie mit der Knotenanzahl.
Jährliche Betriebskosten
Hardware ist eine einmalige Ausgabe (mit Abschreibung). Betriebskosten fallen jedes Jahr an:
| Kosten | Jährliche Schätzung | Berechnung |
|---|---|---|
| Strom | 45.000–75.000 $ | 10-kW-Server × 24/7 × 0,10–0,15 $/kWh + Kühlung |
| Kühlung | 10.000–25.000 $ | HVAC oder Flüssigkühlung für GPU-dichte Wärme |
| Einrichtung/Colocation | 20.000–60.000 $ | Rackplatz, Strom, Netzwerk-Uplink |
| Personal (anteilige VZÄ) | 30.000–80.000 $ | Hardware-Wartung, Überwachung, Upgrades |
| Netzwerk/Bandbreite | 5.000–15.000 $ | Dedizierter Uplink, Datentransfer |
| Versicherung/Garantie | 5.000–15.000 $ | Erweiterte Garantie, Geräteversicherung |
| Jährliche OpEx gesamt | 115.000–270.000 $ | Wiederkehrend jedes Jahr |
Die jährlichen Betriebskosten eines GPU-Servers betragen 115.000–270.000 $ — oft 40–60 % des anfänglichen Hardware-Kaufpreises. Über einen 3-Jahres-Besitzzeitraum betragen die Gesamtbetriebskosten (TCO) etwa 570.000–1,2 Millionen Dollar für einen einzelnen 8×H100-Knoten.
Wichtige Erkenntnis: Die meisten „Kaufen vs. Mieten”-Analysen vergleichen nur den Hardwarepreis mit dem Cloud-Stundenpreis. Das unterschätzt die Besitzkosten dramatisch, indem Strom, Kühlung, Personal, Einrichtung und Abschreibung ignoriert werden — die zusammen über 3 Jahre die Hardwarekosten selbst erreichen oder übersteigen können.
Die wahren Kosten der GPU-Rechenmiete
Mieten verlagert die gesamte Infrastrukturkomplexität zum Anbieter. Sie zahlen einen einzigen Stunden- oder Sekundenpreis, der Hardware, Strom, Kühlung, Netzwerk und Support bündelt.
| Anbietertyp | H100-Preis/Std. | Monatlich (730 Std.) | Jährlich | 3-Jahres-Gesamt |
|---|---|---|---|---|
| Hyperscaler On-Demand (AWS, GCP, Azure) | 3,00–6,98 $ | 2.190–5.095 $ | 26.280–61.140 $ | 78.840–183.420 $ |
| Hyperscaler reserviert (1-Jahres-Bindung) | 2,00–4,50 $ | 1.460–3.285 $ | 17.520–39.420 $ | 52.560–118.260 $ |
| Spezialisierte Cloud (Lambda, CoreWeave) | 2,00–3,00 $ | 1.460–2.190 $ | 17.520–26.280 $ | 52.560–78.840 $ |
| GPU-Marktplatz | 1,50–2,50 $ | 1.095–1.825 $ | 13.140–21.900 $ | 39.420–65.700 $ |
Pro GPU. Ein 8-GPU-Äquivalent auf einem Marktplatz kostet etwa 105.120–175.200 $ pro Jahr (8 × 13.140–21.900 $). Über 3 Jahre: 315.360–525.600 $.
Vergleichen Sie dies mit den Besitz-TCO von 570.000–1,2 Millionen Dollar für dieselbe Hardware. Cloud-Miete ist am unteren Ende wettbewerbsfähig und dramatisch günstiger, wenn Sie die Flexibilität einberechnen, GPUs bei Nichtgebrauch abzuschalten.
Break-Even-Analyse: Wann sich Besitz lohnt
Die Break-Even-Frage reduziert sich auf eine Variable: Auslastung. Bei welchem Prozentsatz kontinuierlicher Nutzung wird Besitz günstiger als Miete?
Die Rechnung für eine einzelne H100:
- Kauf + 3-Jahres-Betriebskosten pro GPU: ~25.000 $ (Hardware) + 14.000 $ (jährlicher OpEx-Anteil) × 3 = ~67.000 $ über 3 Jahre
- Effektive Stundenkosten bei 100 % Auslastung: 67.000 $ ÷ 26.280 Stunden = 2,55 $/Std.
- Effektive Stundenkosten bei 60 % Auslastung: 67.000 $ ÷ 15.768 Stunden = 4,25 $/Std.
- Marktplatz-Mietpreis: ~1,50–3,15 $/Std.
Bei 100 % Auslastung über 3 Jahre kostet Besitz ~2,55 $/Std. — günstiger als die meisten Mietoptionen. Bei 60 % Auslastung kostet Besitz ~4,25 $/Std. — teurer als Marktplatz-Miete. Unter 60 % ist Mieten fast immer günstiger.
Break-Even-Zeitlinie bei 60 % Auslastung: ungefähr 18–22 Monate, abhängig von Strompreisen und Marktplatz-Preisen. Wenn Sie nicht sicher sind, dass Sie 60 %+ Auslastung über mindestens 2 Jahre aufrechterhalten, ist Mieten die sicherere finanzielle Entscheidung.
Versteckte Kosten, die die meisten Analysen übersehen
Fünf Kostenkategorien, die häufig in „Kaufen vs. Mieten”-Vergleichen fehlen:
1. GPU-Abschreibung
GPU-Generationen wechseln alle 18–24 Monate. Jede neue Generation liefert 2–4-fache Leistung gegenüber der vorherigen. Eine heute gekaufte H100 wird Ende 2026 mit Rubin-Architektur-GPUs konkurrieren, die ~5-fachen Inferenzdurchsatz liefern. Der Wiederverkaufswert Ihrer H100 wird entsprechend sinken.
Praktische Abschreibung: Gehen Sie von 50 % Wertverlust nach Monat 18 aus, 70–80 % nach Monat 30. Eine 25.000 $ H100 kann nach 30 Monaten nur noch 5.000–7.500 $ wert sein. Cloud-Miete birgt null Abschreibungsrisiko — Sie mieten immer die neueste Generation.
2. Opportunitätskosten des Kapitals
300.000 $, die in GPU-Hardware gebunden sind, sind 300.000 $, die nicht in Ihr Produkt, Ihr Team oder Ihre Marktchance investiert werden. Für Startups kann diese Kapitalbindung den Unterschied zwischen Überleben und Scheitern ausmachen. Cloud-Miete wandelt Kapitalausgaben (CapEx) in Betriebsausgaben (OpEx) um und bewahrt Liquidität für Wachstum.
3. Bereitstellungszeit
Bestellung, Versand, Rack-Einbau, Verkabelung und Konfiguration eines GPU-Servers dauern 2026 4–12 Wochen (länger bei Großbestellungen von H100). Cloud-GPU-Instanzen sind in Minuten verfügbar. Wenn Geschwindigkeit zur Rechenleistung zählt — für eine Produkteinführung, eine Forschungsfrist oder ein Wettbewerbsfenster — wird die Mietlatenz in Minuten gemessen, nicht in Monaten.
4. Skalierungsreibung
Brauchen Sie 10-mal mehr GPUs für einen Trainingslauf? In der Cloud skalieren Sie in Minuten hoch und nach Abschluss wieder herunter. Mit eigener Hardware bedeutet Skalierung den Kauf, die Bereitstellung und Wartung von 10-mal mehr Servern — und dann herauszufinden, was damit geschehen soll, wenn der Trainingslauf beendet ist.
5. End-of-Life-Management
Wenn Ihre GPUs das Ende ihrer Nutzungsdauer erreichen (3–4 Jahre), stehen Entsorgungskosten, Elektroschrott-Compliance und der operative Aufwand für Stilllegung und Ersatz der Hardware an. Cloud-Anbieter übernehmen das komplett.
Der hybride Ansatz: Das Beste aus beiden Welten
Die meisten Organisationen, die signifikante GPU-Workloads betreiben, konvergieren zu einer hybriden Strategie:
Besitzen Sie eine Basislinie an GPU-Kapazität für Ihre vorhersehbaren, stabilen Workloads — die Trainings-Jobs und Inferenz-Pipelines, die 24/7 bei bekannter Auslastung laufen. Hier ist die Besitzökonomie am stärksten.
Mieten Sie von Cloud-Anbietern oder Marktplätzen für Spitzennachfrage, Experimente und Zugang zu neuerer Hardware. Neue Modellarchitektur trainieren? Mieten Sie H100s für zwei Wochen. Inferenz für eine Produkteinführung skalieren? Burst zu Marktplatz-GPUs. Testen, ob Blackwell das Upgrade wert ist? Mieten Sie eine B200 für einen Tag.
| Workload-Typ | Empfohlener Ansatz | Warum |
|---|---|---|
| Produktions-Inferenz (24/7) | Besitzen bei Auslastung > 60 % | Vorhersehbar, hohe Auslastung, kosteneffektiv im Besitz |
| Modelltraining (periodisch) | Mieten vom Marktplatz | Stoßartig, profitiert von neuester Hardware, hoch-/herunterskalierbar |
| F&E / Experimente | Mieten (Spot/preemptible) | Unvorhersehbar, geringe Auslastung, kostensensibel |
| Spitzen-Skalierung (Launches, Spikes) | Mieten on-demand | Vorübergehend, würde eigene Kapazität verschwenden |
| Disaster Recovery | Mieten reservierte Kapazität | Die meiste Zeit im Leerlauf, kritisch wenn benötigt |
Das hybride Modell optimiert die Kostenkurve: Eigene Hardware deckt den Sockel, gemietete Hardware deckt die Spitze ab. Sie zahlen Besitzpreise für vorhersehbare Last und Mietpreise nur für variable Last.
Detaillierte Preise über verschiedene Cloud-Anbieter und GPU-Marktplätze finden Sie in unserem Cloud-GPU-Preisvergleich.
Entscheidungsrahmen: 5 Fragen, die Sie beantworten müssen
Bevor Sie sich für Kaufen oder Mieten entscheiden, beantworten Sie diese Fragen ehrlich:
1. Wie hoch ist Ihre durchschnittliche GPU-Auslastung?
- Unter 40 % → Immer mieten
- 40–60 % → Mieten, Scheduling optimieren
- 60–80 % → Hybrid (Basis besitzen, Spitzen mieten)
- Über 80 % → Besitz ist finanziell wahrscheinlich sinnvoll
2. Was ist Ihr Projekthorizont?
- Unter 12 Monaten → Mieten
- 12–24 Monate → Mieten oder hybrid
- 24+ Monate mit stabilem Workload → Kauf in Betracht ziehen
3. Haben Sie Infrastruktur-Expertise?
- Kein Rechenzentrum-Betriebsteam → Mieten
- Begrenztes Team → Managed Hosting oder hybrid
- Dediziertes Infrastruktur-Team → Besitz ist machbar
4. Wie wichtig ist der Zugang zur neuesten GPU-Generation?
- Kritisch (Forschung, Wettbewerbsvorteil) → Mieten (Upgrade ohne Abschreibung)
- Wünschenswert → Hybrid
- Nicht wichtig (Workload läuft gut auf aktueller Generation) → Besitz ist in Ordnung
5. Wie ist Ihre Kapitalsituation?
- Kapitalknapp (Startup, Frühphase) → Mieten (OpEx > CapEx)
- Kapital verfügbar, aber kostenbewusst → Hybrid
- Kapital verfügbar mit vorhersehbarer Nachfrage → Besitz kann optimal sein
Wenn Sie sich immer noch unsicher sind, beginnen Sie mit Mieten. Cloud-Miete liefert Ihnen innerhalb von Wochen reale Auslastungsdaten. Nutzen Sie diese Daten, um später eine fundierte Kaufentscheidung zu treffen — anstatt 300.000 $ auf Basis von Prognosen zu binden.
Für ein Verständnis, welche spezifischen GPU-Modelle den besten Wert bieten, lesen Sie unseren Leitfaden zur besten GPU für KI. Um die architektonischen Unterschiede zwischen GPU-Modellen zu verstehen, lesen Sie unseren GPU-Leitfaden. Für Finanzierungsoptionen jenseits von einfachem Kaufen oder Mieten, einschließlich Leasing und GPU-besicherter Schulden, lesen Sie unseren GPU-Finanzierungsleitfaden.
Häufig gestellte Fragen
Ab wann lohnt sich der Kauf eines GPU-Servers?
Wenn Ihre durchschnittliche GPU-Auslastung 60 % übersteigt und Sie diese für 18+ Monate aufrechterhalten können. Unter 60 % macht die Leerlaufzeit Mieten günstiger. Unter 18 Monaten amortisieren Sie die Vorabinvestition nicht, bevor die Abschreibung den Wert der Hardware erodiert. Beide Bedingungen müssen gleichzeitig erfüllt sein.
Was kostet der Betrieb eines GPU-Servers pro Monat?
Ein 8×H100-Knoten verbraucht unter Last etwa 10.000 Watt. Bei 0,10 $/kWh im 24/7-Betrieb sind das ungefähr 730 $/Monat allein für Strom. Dazu kommen Kühlung (200–500 $/Monat), Colocation (1.500–5.000 $/Monat) und Wartung, und die monatlichen Betriebskosten erreichen 3.000–8.000 $ — bevor Sie den Hardwarekauf einrechnen.
Kann ich eine Colocation statt eines eigenen Rechenzentrums nutzen?
Ja. Colocation bedeutet, Ihre Hardware in einem Rechenzentrum eines Drittanbieters zu platzieren, das Strom, Kühlung, physische Sicherheit und Netzwerkkonnektivität bereitstellt. Die Kosten liegen typischerweise bei 1.500–5.000 $/Monat pro Rack, abhängig von Leistungsdichte und Standort. Colocation eliminiert Einrichtungskosten, aber Sie besitzen weiterhin die Hardware, zahlen für Strom und verwalten die Wartung.
Wie hoch ist die Abschreibungsrate für GPU-Server?
GPU-Hardware wird für buchhalterische Zwecke typischerweise auf einer linearen 3-Jahres-Basis abgeschrieben. In der Praxis sinkt der Marktwert schneller — ungefähr 50 % nach Monat 18 und 70–80 % nach Monat 30 — weil alle 18–24 Monate neue GPU-Generationen mit 2–4-fach besserer Leistung auf den Markt kommen.
Sollte ich statt Kaufen leasen?
Leasing (über NVIDIA DGX-Leasing-Programme oder Finanzinstitute) verteilt die Kosten über 2–3 Jahre ohne die volle Kapitalvorab-Bindung. Die monatlichen Raten sind höher als die effektiven Besitzkosten, aber niedriger als Cloud-Miete bei hoher Auslastung. Leasing ist sinnvoll, wenn Sie dedizierte Hardware wollen, ohne Kapital zu binden, und wenn Ihre Auslastung die Kosten gegenüber Cloud-Miete rechtfertigt.