GPU mieten & bereitstellen

GPUnex ist nicht nur eine Plattform für GPU-Paketinhaber — es ist auch ein voll ausgestatteter GPU-Compute-Marktplatz für KI-Ingenieure, Forscher und Unternehmen, die On-Demand-Zugang zu Enterprise-Hardware benötigen. Dieser Leitfaden führt Sie durch den gesamten Prozess: Bewerbung für den Mieterzugang, Auswahl eines GPU-Modells, Wahl eines Preismodells, Bereitstellung Ihrer Instanz und Verbindung zu dieser.

Mieterzugang beantragen

Der GPU-Mieterzugang erfordert eine genehmigte Bewerbung. Dieser Verifizierungsschritt gewährleistet die Servicequalität für alle Marktplatzteilnehmer und hilft GPUnex, Sie mit der richtigen Hardware für Ihre Arbeitslast zusammenzubringen.

Schritt-für-Schritt-Anleitung

1. Navigieren Sie zum Mieter-Bereich, indem Sie in der Seitenleiste auf “GPUs mieten” klicken oder die Seite Rollen aufrufen und die Rolle Mieter auswählen.

2. Klicken Sie auf “GPUs mieten beantragen”, um das Bewerbungsformular zu öffnen.

3. Füllen Sie die Bewerbung aus mit folgenden Details:

   Persönliche / Unternehmensangaben:

   • Vollständiger Name (erforderlich)
   • E-Mail-Adresse (erforderlich)
   • Firmenname (optional — Einzelpersonen sind willkommen)

   Details zum Anwendungsfall:

   • Beschreibung des Anwendungsfalls — Beschreiben Sie, wofür Sie die GPU-Rechenleistung nutzen möchten (z. B. Training eines großen Sprachmodells, Inferenz-Arbeitslasten, Rendering, wissenschaftliche Simulationen)

   GPU-Anforderungen:

   • Bevorzugtes GPU-Modell — Wählen Sie aus den verfügbaren Modellen (H100, A100, L40S, L4)
   • Anzahl — Wie viele GPUs Sie benötigen (Einzel- oder Multi-GPU-Konfigurationen)
   • VRAM-Anforderungen — Mindest-VRAM für Ihre Arbeitslast
   • Nutzungsmuster — Kontinuierlich, stoßweise oder periodisch
   • Bevorzugte Region — Wählen Sie Ihre bevorzugte EU-Rechenzentrumsregion für niedrigste Latenz

   Budget und Zeitrahmen:

   • Geschätztes monatliches Budget in USDC
   • Zeitrahmen — Wann Sie starten müssen (sofort, innerhalb einer Woche, innerhalb eines Monats)

4. Überprüfen Sie Ihre Bewerbung auf Richtigkeit und Vollständigkeit.

5. Klicken Sie auf “Absenden”, um Ihre Bewerbung zur Prüfung einzureichen.

Bewerbungsprüfung

• Bewerbungen werden innerhalb von 24-48 Stunden an Werktagen geprüft.
• Sie erhalten eine E-Mail-Benachrichtigung, wenn Ihre Bewerbung genehmigt wird.
• Nach der Genehmigung erhalten Sie vollen Zugang zum GPU-Mietmarktplatz und können sofort Instanzen bereitstellen.

Verfügbare GPU-Modelle

GPUnex bietet eine Reihe von NVIDIA-Rechenzentrums-GPUs an, um verschiedene Arbeitslastanforderungen und Budgets abzudecken.

Multi-GPU-Konfigurationen

Für Arbeitslasten, die mehr Rechenleistung erfordern, als eine einzelne GPU bieten kann, unterstützt GPUnex Multi-GPU-Konfigurationen:

• Bis zu 8x NVIDIA H100 GPUs in einem einzelnen Knoten
• NVLink-Interconnect für GPU-zu-GPU-Kommunikation mit hoher Bandbreite innerhalb eines Knotens
• InfiniBand-Netzwerk für Multi-Node-Cluster
• Ideal für verteiltes Training großer Modelle, großangelegtes Inferenz-Serving und Forschung, die massive Parallelität erfordert

Die richtige GPU wählen

Verwenden Sie die folgenden Richtlinien zur Auswahl der geeigneten Hardware:

• Training großer Sprachmodelle (>7B Parameter): H100 80GB oder A100 80GB, Multi-GPU empfohlen
• Feinabstimmung vortrainierter Modelle: A100 40GB oder A100 80GB je nach Modellgröße
• Produktions-Inferenz-Serving: L40S 48GB oder L4 24GB für kosteneffiziente Inferenz; H100 für latenzkritische Anwendungen
• Rendering und Visualisierung: L40S 48GB bietet hervorragende Grafik- und Compute-Leistung
• Batch-Verarbeitung und leichte Inferenz: L4 24GB bietet die besten Kosten pro Inferenz für kleinere Modelle

Preismodelle

GPUnex bietet drei Preismodelle an, die verschiedene Nutzungsmuster und Budgetanforderungen abdecken.

On-Demand

• Abrechnung: Pro Sekunde, zahlen Sie nur für das, was Sie nutzen
• Verpflichtung: Keine — starten und stoppen Sie jederzeit
• Flexibilität: Volle Flexibilität zum sofortigen Hoch- oder Herunterskalieren
• Am besten für: Experimente, variable Arbeitslasten, kurzfristige Projekte

Reserviert

• Verpflichtung: Tage, Wochen oder Monate
• Rabatt: Bis zu 40% Rabatt auf On-Demand-Preise
• Kapazität: Garantiert — Ihre reservierte GPU ist während Ihres Verpflichtungszeitraums immer verfügbar
• Am besten für: Laufende Trainingsläufe, Produktions-Inferenz, vorhersehbare Arbeitslasten

Spot

• Rabatt: Bis zu 70% Rabatt auf On-Demand-Preise
• Verdrängung: Instanzen können mit einer 30-Sekunden-Warnung zurückgefordert werden, wenn die Nachfrage steigt
• Auto-Checkpoint: Das System löst automatisch einen Checkpoint-Speicher aus, wenn eine Verdrängungsbenachrichtigung ausgegeben wird, um Arbeitsverluste zu minimieren
• Am besten für: Fehlertolerante Arbeitslasten, Batch-Verarbeitung, nicht zeitkritische Trainingsjobs, budgetbewusstes Experimentieren

Instanz bereitstellen

Sobald Ihre Mieter-Bewerbung genehmigt ist, können Sie GPU-Instanzen über den Marktplatz bereitstellen.

Schritt-für-Schritt-Anleitung

1. Navigieren Sie zum GPU-Marktplatz von Ihrem Dashboard aus.

2. Suchen und filtern Sie das verfügbare Inventar anhand folgender Kriterien:

   • GPU-Modell (H100, A100, L40S, L4)
   • VRAM (24GB, 40GB, 48GB, 80GB)
   • Region (wählen Sie Ihren bevorzugten EU-Rechenzentrumsstandort)
   • Preisspanne (filtern nach Stundensatz)
   • Preismodell (On-Demand, Reserviert oder Spot)

3. Wählen Sie eine GPU aus den Suchergebnissen. Klicken Sie auf das Angebot, um vollständige Details einschließlich Spezifikationen, Preisen, Verfügbarkeit und Rechenzentrumsstandort anzuzeigen.

4. Wählen Sie Ihre Softwareumgebung. Wählen Sie aus vorkonfigurierten Frameworks oder stellen Sie Ihre eigene bereit:

   Vorinstallierte Frameworks:

   • PyTorch — Neueste stabile Version mit CUDA-Unterstützung
   • TensorFlow — Neueste stabile Version mit GPU-Beschleunigung
   • JAX — Hochleistungs-ML-Framework
   • Jupyter — JupyterLab-Umgebung mit vorkonfigurierten gängigen ML-Bibliotheken

   Benutzerdefinierte Umgebung:

   • Stellen Sie ein benutzerdefiniertes Docker-Image aus einer beliebigen öffentlichen oder privaten Container-Registry bereit
   • Geben Sie die Image-URL und erforderliche Umgebungsvariablen an

5. Konfigurieren Sie die Instanzeinstellungen:

   • Instanzname (für Ihre Referenz)
   • SSH-öffentlicher Schlüssel (für sicheren Zugriff)
   • Startskript (optional — wird automatisch beim Instanzstart ausgeführt)
   • Umgebungsvariablen (optional)

6. Überprüfen und bereitstellen. Bestätigen Sie die GPU-Auswahl, das Preismodell, die Softwareumgebung und die Konfiguration. Klicken Sie auf “Bereitstellen”, um Ihre Instanz zu starten.

7. Warten Sie auf die Bereitstellung. Ihr Container wird bereitgestellt und eine SSH-Verbindung steht innerhalb von Sekunden nach dem Klick auf Bereitstellen zur Verfügung.

Per SSH verbinden

Sobald Ihre Instanz läuft, erhalten Sie Verbindungsdetails auf der Instanzverwaltungsseite:

• Die IP-Adresse, der Port und der Benutzername werden im Instanzdetail-Panel bereitgestellt.
• Verwenden Sie den privaten Schlüssel, der dem SSH-öffentlichen Schlüssel entspricht, den Sie bei der Bereitstellung angegeben haben.
• Sie haben Root-Zugriff innerhalb des Containers.

Instanz verwalten

Auf der Instanzverwaltungsseite können Sie:

• Die Instanz starten / stoppen, um die Abrechnung zu pausieren (nur On-Demand)
• GPU-Auslastung, Speichernutzung und Compute-Metriken in Echtzeit überwachen
• Logs Ihrer laufenden Prozesse einsehen
• Die Instanz beenden, wenn Sie fertig sind

Persistenter Speicher

GPUnex bietet netzwerkgebundenen persistenten Speicher, der unabhängig vom Lebenszyklus Ihrer GPU-Instanz ist.

Hauptmerkmale

• Übersteht Neustarts. Ihre Daten bleiben intakt, wenn Sie eine Instanz stoppen und neu starten.
• An neue Instanzen anhängbar. Wenn Sie eine Instanz beenden und eine neue bereitstellen, können Sie Ihr bestehendes Speichervolumen an die neue Instanz anhängen. Alle Ihre Daten, Modell-Checkpoints, Datensätze und Codes bleiben erhalten.
• Datenpersistenz. Ihr Speichervolumen bleibt bestehen, bis Sie es explizit löschen, unabhängig davon, was mit Ihren Compute-Instanzen passiert.

Anwendungsfälle für persistenten Speicher

• Trainingsdatensätze speichern, die Sie über mehrere Trainingsläufe hinweg verwenden
• Modell-Checkpoints speichern, damit Sie das Training nach Unterbrechungen fortsetzen können (besonders wichtig für Spot-Instanzen)
• Code-Repositories und Entwicklungsumgebungen über Instanzwechsel hinweg beibehalten
• Experimentprotokolle und Ergebnisse für langfristige Forschungsprojekte aufbewahren

Hilfe erhalten

Standard-Support

Alle Mieter haben Zugang zum GPUnex-Supportsystem für technische Probleme, Abrechnungsfragen und allgemeine Unterstützung. Wenden Sie sich über den Support-Bereich in Ihrem Dashboard an uns.

Enterprise-Support

Enterprise-Kunden und Teams mit größeren Bereitstellungen erhalten zusätzlichen Support:

• Dediziertes Account-Management mit einem benannten Ansprechpartner
• Prioritäts-Support mit schnelleren Reaktionszeiten
• Individuelle Cluster-Konfigurationen, die auf Ihre spezifischen Arbeitslastanforderungen zugeschnitten sind
• Volumenpreise für großangelegte Bereitstellungen
• SLA-Garantien für Verfügbarkeit und Leistung

Benötigen Sie eine individuelle Lösung?

Für individuelle Cluster-Konfigurationen, Multi-Node-Bereitstellungen, reservierte Kapazitätsvereinbarungen oder Enterprise-Preise steht unser Vertriebsteam bereit. Ob Sie einen dedizierten H100-Cluster oder eine maßgeschneiderte Infrastrukturlösung benötigen — wir können die richtige Lösung für Ihre Arbeitslast aufbauen.

Vertrieb kontaktieren, um Ihre Anforderungen zu besprechen und ein individuelles Angebot zu erhalten.

Nächste Schritte

• API-Referenz — Integrieren Sie das GPUnex-GPU-Management in Ihre eigenen Skripte und Automatisierungspipelines
• Wie GPU-Pakete funktionieren — Erfahren Sie mehr über die Investorenseite des GPUnex-Marktplatzes
• Vertrieb kontaktieren — Nehmen Sie Kontakt auf für Enterprise-Lösungen, individuelle Konfigurationen und Volumenpreise