Location et déploiement d’une GPU

GPUnex n’est pas seulement une plateforme pour les détenteurs de packages GPU — c’est aussi une marketplace complète de calcul GPU pour les ingénieurs IA, les chercheurs et les entreprises qui ont besoin d’un accès à la demande à du matériel de qualité entreprise. Ce guide vous accompagne tout au long du processus : candidature pour l’accès locataire, sélection d’un modèle GPU, choix d’un plan tarifaire, déploiement de votre instance et connexion à celle-ci.

Candidature pour l’accès locataire

L’accès à la location de GPU nécessite une candidature approuvée. Cette étape de vérification garantit la qualité de service pour tous les participants de la marketplace et aide GPUnex à vous associer au matériel adapté à votre charge de travail.

Instructions étape par étape

1. Accédez à la section Locataire en cliquant sur « Louer des GPU » dans la barre latérale, ou rendez-vous sur la page Rôles et sélectionnez le rôle Locataire.

2. Cliquez sur « Postuler pour louer des GPU » pour ouvrir le formulaire de candidature.

3. Remplissez la candidature avec les détails suivants :

   Informations personnelles / entreprise :

   • Nom complet (requis)
   • Adresse e-mail (requis)
   • Nom de l’entreprise (optionnel — les particuliers sont les bienvenus)

   Détails du cas d’utilisation :

   • Description du cas d’utilisation — Décrivez pour quoi vous prévoyez d’utiliser le calcul GPU (par exemple, entraînement d’un grand modèle de langage, exécution de charges de travail d’inférence, rendu, simulation scientifique)

   Exigences GPU :

   • Modèle GPU préféré — Sélectionnez parmi les modèles disponibles (H100, A100, L40S, L4)
   • Quantité — Combien de GPU vous avez besoin (configuration simple ou multi-GPU)
   • Exigences VRAM — La VRAM minimale nécessaire pour votre charge de travail
   • Modèle d’utilisation — Continu, ponctuel ou périodique
   • Région préférée — Sélectionnez votre région de centre de données UE préférée pour la latence la plus basse

   Budget et calendrier :

   • Budget mensuel estimé en USDC
   • Calendrier — Quand vous avez besoin de commencer (immédiatement, dans la semaine, dans le mois)

4. Vérifiez votre candidature pour vous assurer de son exactitude et de sa complétude.

5. Cliquez sur « Soumettre » pour envoyer votre candidature pour examen.

Examen de la candidature

• Les candidatures sont examinées sous 24 à 48 heures les jours ouvrables.
• Vous recevrez une notification par e-mail lorsque votre candidature sera approuvée.
• Une fois approuvé, vous obtenez un accès complet à la marketplace de location GPU et pouvez déployer des instances immédiatement.

Modèles GPU disponibles

GPUnex propose une gamme de GPU NVIDIA de centre de données pour répondre à différentes exigences de charges de travail et de budgets.

Configurations multi-GPU

Pour les charges de travail nécessitant plus de calcul qu’une seule GPU ne peut fournir, GPUnex prend en charge les configurations multi-GPU :

• Jusqu’à 8x NVIDIA H100 GPU dans un seul nœud
• Interconnexion NVLink pour une communication GPU à GPU à haut débit au sein d’un nœud
• Réseau InfiniBand pour les clusters multi-nœuds
• Idéal pour l’entraînement distribué de grands modèles, le service d’inférence à grande échelle et la recherche nécessitant un parallélisme massif

Choisir la bonne GPU

Utilisez les recommandations suivantes pour sélectionner le matériel approprié :

• Entraînement de grands modèles de langage (>7 milliards de paramètres) : H100 80GB ou A100 80GB, multi-GPU recommandé
• Fine-tuning de modèles pré-entraînés : A100 40GB ou A100 80GB selon la taille du modèle
• Service d’inférence en production : L40S 48GB ou L4 24GB pour une inférence économique ; H100 pour les applications critiques en latence
• Rendu et visualisation : L40S 48GB offre d’excellentes performances en graphiques et calcul
• Traitement par lots et inférence légère : L4 24GB offre le meilleur coût par inférence pour les modèles plus petits

Modèles tarifaires

GPUnex propose trois modèles tarifaires pour s’adapter à différents usages et exigences budgétaires.

À la demande

• Facturation : À la seconde, ne payez que ce que vous utilisez
• Engagement : Aucun — démarrez et arrêtez à tout moment
• Flexibilité : Flexibilité totale pour augmenter ou réduire instantanément
• Idéal pour : Expérimentation, charges de travail variables, projets à court terme

Réservé

• Engagement : Jours, semaines ou mois
• Réduction : Jusqu’à 40 % de réduction par rapport au tarif à la demande
• Capacité : Garantie — votre GPU réservée est toujours disponible pendant votre période d’engagement
• Idéal pour : Entraînements en cours, inférence en production, charges de travail prévisibles

Spot

• Réduction : Jusqu’à 70 % de réduction par rapport au tarif à la demande
• Préemption : Les instances peuvent être récupérées avec un avertissement de 30 secondes lorsque la demande augmente
• Auto-checkpoint : Le système déclenche automatiquement une sauvegarde de checkpoint lorsqu’un avis de préemption est émis, minimisant la perte de travail
• Idéal pour : Charges de travail tolérantes aux pannes, traitement par lots, tâches d’entraînement non critiques en temps, expérimentation à budget limité

Déployer une instance

Une fois votre candidature locataire approuvée, vous pouvez déployer des instances GPU depuis la marketplace.

Instructions étape par étape

1. Accédez à la Marketplace GPU depuis votre tableau de bord.

2. Recherchez et filtrez l’inventaire disponible en utilisant les critères suivants :

   • Modèle GPU (H100, A100, L40S, L4)
   • VRAM (24 Go, 40 Go, 48 Go, 80 Go)
   • Région (sélectionnez votre localisation de centre de données UE préférée)
   • Fourchette de prix (filtrez par tarif horaire)
   • Modèle tarifaire (À la demande, Réservé ou Spot)

3. Sélectionnez une GPU dans les résultats de recherche. Cliquez sur l’annonce pour voir les détails complets incluant les spécifications, la tarification, la disponibilité et la localisation du centre de données.

4. Choisissez votre environnement logiciel. Sélectionnez parmi des frameworks pré-configurés ou fournissez le vôtre :

   Frameworks pré-installés :

   • PyTorch — Dernière version stable avec support CUDA
   • TensorFlow — Dernière version stable avec accélération GPU
   • JAX — Framework ML haute performance
   • Jupyter — Environnement JupyterLab pré-configuré avec les bibliothèques ML courantes

   Environnement personnalisé :

   • Fournissez une image Docker personnalisée depuis n’importe quel registre de conteneurs public ou privé
   • Spécifiez l’URL de l’image et les variables d’environnement requises

5. Configurez les paramètres de l’instance :

   • Nom de l’instance (pour votre référence)
   • Clé publique SSH (pour un accès sécurisé)
   • Script de démarrage (optionnel — s’exécute automatiquement au lancement de l’instance)
   • Variables d’environnement (optionnel)

6. Vérifiez et déployez. Confirmez la sélection de GPU, le modèle tarifaire, l’environnement logiciel et la configuration. Cliquez sur « Déployer » pour lancer votre instance.

7. Attendez le provisionnement. Votre conteneur sera déployé et une connexion SSH sera disponible en quelques secondes après avoir cliqué sur Déployer.

Connexion via SSH

Une fois votre instance en cours d’exécution, vous recevrez les détails de connexion sur la page de gestion de l’instance :

• L’adresse IP, le port et le nom d’utilisateur sont fournis dans le panneau de détails de l’instance.
• Utilisez la clé privée correspondant à la clé publique SSH que vous avez fournie lors du déploiement.
• Vous aurez un accès root à l’intérieur du conteneur.

Gestion de votre instance

Depuis la page de gestion de l’instance, vous pouvez :

• Démarrer / Arrêter l’instance pour suspendre la facturation (À la demande uniquement)
• Surveiller l’utilisation GPU, l’utilisation mémoire et les métriques de calcul en temps réel
• Consulter les logs de vos processus en cours
• Terminer l’instance lorsque vous avez terminé

Stockage persistant

GPUnex fournit un stockage persistant en réseau indépendant du cycle de vie de votre instance GPU.

Caractéristiques clés

• Survit aux redémarrages. Vos données restent intactes lorsque vous arrêtez et redémarrez une instance.
• Attachable à de nouvelles instances. Si vous terminez une instance et en déployez une nouvelle, vous pouvez attacher votre volume de stockage existant à la nouvelle instance. Toutes vos données, checkpoints de modèles, datasets et code sont préservés.
• Persistance des données. Votre volume de stockage persiste jusqu’à ce que vous le supprimiez explicitement, indépendamment de ce qui arrive à vos instances de calcul.

Cas d’utilisation du stockage persistant

• Stockez des datasets d’entraînement que vous utilisez à travers plusieurs sessions d’entraînement
• Sauvegardez des checkpoints de modèles pour pouvoir reprendre l’entraînement après des interruptions (particulièrement important pour les instances Spot)
• Maintenez des dépôts de code et des environnements de développement à travers les changements d’instances
• Conservez des logs d’expériences et des résultats pour des projets de recherche de longue durée

Obtenir de l’aide

Support standard

Tous les locataires ont accès au système de support GPUnex pour les problèmes techniques, les questions de facturation et l’assistance générale. Contactez le support via la section support de votre tableau de bord.

Support Enterprise

Les clients entreprise et les équipes avec des déploiements plus importants bénéficient d’un support supplémentaire :

• Gestion de compte dédiée avec un point de contact nommé
• Support prioritaire avec des temps de réponse plus rapides
• Configurations de clusters personnalisées adaptées à vos exigences spécifiques de charge de travail
• Tarification volume pour les déploiements à grande échelle
• Garanties SLA de disponibilité et de performance

Besoin d’une solution personnalisée ?

Pour des configurations de clusters personnalisées, des déploiements multi-nœuds, des accords de capacité réservée ou une tarification entreprise, notre équipe commerciale est prête à vous aider. Que vous ayez besoin d’un cluster H100 dédié ou d’une infrastructure sur mesure, nous pouvons construire la bonne solution pour votre charge de travail.

Contacter l’équipe commerciale pour discuter de vos besoins et obtenir un devis personnalisé.

Prochaines étapes

• Référence API — Intégrez la gestion GPU GPUnex dans vos propres scripts et pipelines d’automatisation
• Comment fonctionnent les packages GPU — Découvrez le côté investisseur de la marketplace GPUnex
• Contacter l’équipe commerciale — Prenez contact pour des solutions entreprise, des configurations personnalisées et une tarification volume