GPU किराये पर लेना और तैनात करना

GPUnex केवल GPU पैकेज धारकों के लिए एक प्लेटफ़ॉर्म नहीं है — यह AI इंजीनियरों, शोधकर्ताओं और कंपनियों के लिए एक पूर्ण-सुविधा GPU कंप्यूट मार्केटप्लेस भी है जिन्हें एंटरप्राइज़-ग्रेड हार्डवेयर तक ऑन-डिमांड एक्सेस की आवश्यकता है। यह गाइड आपको पूरी प्रक्रिया में ले जाती है: किराएदार एक्सेस के लिए आवेदन करना, GPU मॉडल चुनना, मूल्य निर्धारण योजना चुनना, अपना instance तैनात करना, और उससे कनेक्ट करना।

किराएदार एक्सेस के लिए आवेदन करना

GPU रेंटल एक्सेस के लिए एक अनुमोदित आवेदन की आवश्यकता है। यह सत्यापन चरण सभी मार्केटप्लेस प्रतिभागियों के लिए सेवा की गुणवत्ता सुनिश्चित करता है और GPUnex को आपके वर्कलोड के लिए सही हार्डवेयर से मिलान करने में मदद करता है।

चरण-दर-चरण निर्देश

1. किराएदार अनुभाग पर जाएँ साइडबार में “Rent GPUs” पर क्लिक करके, या Roles पेज पर जाएँ और किराएदार भूमिका चुनें।

2. “Apply to Rent GPUs” पर क्लिक करें आवेदन फॉर्म खोलने के लिए।

3. आवेदन भरें निम्नलिखित विवरणों के साथ:

   व्यक्तिगत / कंपनी जानकारी:

   • पूरा नाम (आवश्यक)
   • ईमेल एड्रेस (आवश्यक)
   • कंपनी का नाम (वैकल्पिक — व्यक्ति भी आवेदन कर सकते हैं)

   उपयोग के मामले का विवरण:

   • उपयोग के मामले का वर्णन — बताएँ कि आप GPU कंप्यूट का उपयोग किसके लिए करने की योजना बना रहे हैं (जैसे, एक बड़े भाषा मॉडल का प्रशिक्षण, इन्फरेंस वर्कलोड चलाना, रेंडरिंग, वैज्ञानिक सिमुलेशन)

   GPU आवश्यकताएँ:

   • पसंदीदा GPU मॉडल — उपलब्ध मॉडलों में से चुनें (H100, A100, L40S, L4)
   • मात्रा — आपको कितने GPU की आवश्यकता है (एकल GPU या मल्टी-GPU कॉन्फ़िगरेशन)
   • VRAM आवश्यकताएँ — आपके वर्कलोड के लिए आवश्यक न्यूनतम VRAM
   • उपयोग पैटर्न — निरंतर, बर्स्ट, या आवधिक उपयोग
   • पसंदीदा क्षेत्र — सबसे कम लेटेंसी के लिए अपना पसंदीदा EU डेटा सेंटर क्षेत्र चुनें

   बजट और समयरेखा:

   • अनुमानित मासिक बजट USDC में
   • समयरेखा — आपको कब शुरू करने की आवश्यकता है (तुरंत, एक सप्ताह के भीतर, एक महीने के भीतर)

4. अपने आवेदन की सटीकता और पूर्णता की समीक्षा करें।

5. अपना आवेदन समीक्षा के लिए भेजने के लिए “Submit” पर क्लिक करें।

आवेदन समीक्षा

• कार्यदिवसों के दौरान 24-48 घंटों के भीतर आवेदनों की समीक्षा की जाती है।
• आपके आवेदन के अनुमोदित होने पर आपको एक ईमेल सूचना प्राप्त होगी।
• अनुमोदित होने के बाद, आपको GPU रेंटल मार्केटप्लेस तक पूर्ण एक्सेस मिल जाती है और आप तुरंत instances तैनात कर सकते हैं।

उपलब्ध GPU मॉडल

GPUnex विभिन्न वर्कलोड आवश्यकताओं और बजट के अनुरूप NVIDIA डेटा सेंटर GPU की एक श्रृंखला प्रदान करता है।

मल्टी-GPU कॉन्फ़िगरेशन

उन वर्कलोड के लिए जिनमें एक GPU से अधिक कंप्यूट की आवश्यकता होती है, GPUnex मल्टी-GPU कॉन्फ़िगरेशन का समर्थन करता है:

• एक नोड में 8x NVIDIA H100 GPU तक
• नोड के भीतर उच्च-बैंडविड्थ GPU-टू-GPU संचार के लिए NVLink इंटरकनेक्ट
• मल्टी-नोड क्लस्टर के लिए InfiniBand नेटवर्किंग
• बड़े मॉडलों की वितरित ट्रेनिंग, बड़े पैमाने की इन्फरेंस सर्विंग, और बड़े पैमाने की समानता की आवश्यकता वाले रिसर्च के लिए आदर्श

सही GPU चुनना

उचित हार्डवेयर चुनने के लिए निम्नलिखित दिशानिर्देशों का उपयोग करें:

• बड़े भाषा मॉडल ट्रेनिंग (>7B पैरामीटर): H100 80GB या A100 80GB, मल्टी-GPU अनुशंसित
• पूर्व-प्रशिक्षित मॉडल फाइन-ट्यूनिंग: मॉडल आकार के आधार पर A100 40GB या A100 80GB
• प्रोडक्शन इन्फरेंस सर्विंग: लागत-प्रभावी इन्फरेंस के लिए L40S 48GB या L4 24GB; लेटेंसी-क्रिटिकल अनुप्रयोगों के लिए H100
• रेंडरिंग और विज़ुअलाइज़ेशन: L40S 48GB उत्कृष्ट ग्राफिक्स और कंप्यूट प्रदर्शन प्रदान करता है
• बैच प्रोसेसिंग और हल्की इन्फरेंस: L4 24GB छोटे मॉडलों के लिए सर्वोत्तम लागत-प्रति-इन्फरेंस प्रदान करता है

मूल्य निर्धारण मॉडल

GPUnex विभिन्न उपयोग पैटर्न और बजट आवश्यकताओं के लिए तीन मूल्य निर्धारण मॉडल प्रदान करता है।

On-Demand

• बिलिंग: प्रति-सेकंड, केवल आप जो उपयोग करते हैं उसके लिए भुगतान करें
• प्रतिबद्धता: कोई नहीं — कभी भी शुरू और बंद करें
• लचीलापन: तुरंत स्केल अप या डाउन करने की पूर्ण लचीलापन
• सर्वोत्तम: प्रयोग, परिवर्तनशील वर्कलोड, अल्पकालिक प्रोजेक्ट

Reserved

• प्रतिबद्धता: दिन, सप्ताह, या महीने
• छूट: On-Demand मूल्य निर्धारण पर 40% तक की छूट
• क्षमता: गारंटीकृत — आपकी प्रतिबद्धता अवधि के दौरान आपका reserved GPU हमेशा उपलब्ध है
• सर्वोत्तम: चल रहे ट्रेनिंग रन, प्रोडक्शन इन्फरेंस, अनुमानित वर्कलोड

Spot

• छूट: On-Demand मूल्य निर्धारण पर 70% तक की छूट
• प्रीएम्प्शन: माँग बढ़ने पर instances 30 सेकंड की चेतावनी के साथ वापस लिए जा सकते हैं
• Auto-checkpoint: प्रीएम्प्शन नोटिस जारी होने पर सिस्टम स्वचालित रूप से एक checkpoint save ट्रिगर करता है, खोए हुए काम को कम करता है
• सर्वोत्तम: फॉल्ट-टॉलरेंट वर्कलोड, बैच प्रोसेसिंग, गैर-समय-महत्वपूर्ण ट्रेनिंग जॉब, बजट-सचेत प्रयोग

Instance तैनात करना

एक बार आपका किराएदार आवेदन अनुमोदित हो जाने के बाद, आप मार्केटप्लेस से GPU instances तैनात कर सकते हैं।

चरण-दर-चरण निर्देश

1. अपने डैशबोर्ड से GPU Marketplace पर जाएँ।

2. उपलब्ध इन्वेंटरी को खोजें और फ़िल्टर करें निम्नलिखित मानदंडों का उपयोग करके:

   • GPU मॉडल (H100, A100, L40S, L4)
   • VRAM (24GB, 40GB, 48GB, 80GB)
   • क्षेत्र (अपना पसंदीदा EU डेटा सेंटर स्थान चुनें)
   • मूल्य श्रेणी (प्रति घंटा दर से फ़िल्टर करें)
   • मूल्य निर्धारण मॉडल (On-Demand, Reserved, या Spot)

3. खोज परिणामों से एक GPU चुनें। विनिर्देश, मूल्य निर्धारण, उपलब्धता और डेटा सेंटर स्थान सहित पूर्ण विवरण देखने के लिए लिस्टिंग पर क्लिक करें।

4. अपना सॉफ़्टवेयर वातावरण चुनें। पूर्व-कॉन्फ़िगर फ्रेमवर्क में से चुनें या अपना खुद का प्रदान करें:

   पूर्व-स्थापित फ्रेमवर्क:

   • PyTorch — CUDA सपोर्ट के साथ नवीनतम स्थिर रिलीज़
   • TensorFlow — GPU एक्सेलरेशन के साथ नवीनतम स्थिर रिलीज़
   • JAX — उच्च-प्रदर्शन ML फ्रेमवर्क
   • Jupyter — सामान्य ML लाइब्रेरी के साथ पूर्व-कॉन्फ़िगर JupyterLab वातावरण

   कस्टम वातावरण:

   • किसी भी सार्वजनिक या निजी कंटेनर रजिस्ट्री से कस्टम Docker इमेज प्रदान करें
   • इमेज URL और आवश्यक environment variables निर्दिष्ट करें

5. Instance सेटिंग्स कॉन्फ़िगर करें:

   • Instance नाम (आपके संदर्भ के लिए)
   • SSH सार्वजनिक key (सुरक्षित एक्सेस के लिए)
   • स्टार्टअप स्क्रिप्ट (वैकल्पिक — instance लॉन्च होने पर स्वचालित रूप से चलती है)
   • Environment variables (वैकल्पिक)

6. समीक्षा करें और तैनात करें। GPU चयन, मूल्य निर्धारण मॉडल, सॉफ़्टवेयर वातावरण और कॉन्फ़िगरेशन की पुष्टि करें। अपना instance लॉन्च करने के लिए “Deploy” पर क्लिक करें।

7. प्रोविज़निंग की प्रतीक्षा करें। आपका कंटेनर तैनात किया जाएगा और Deploy पर क्लिक करने के सेकंडों के भीतर SSH कनेक्शन उपलब्ध होगा।

SSH के माध्यम से कनेक्ट करना

एक बार आपका instance चल रहा हो, आपको instance प्रबंधन पेज पर कनेक्शन विवरण प्राप्त होंगे:

• IP एड्रेस, पोर्ट, और उपयोगकर्ता नाम instance विवरण पैनल में प्रदान किए जाते हैं।
• तैनाती के दौरान आपने जो SSH सार्वजनिक key प्रदान की थी उसके अनुरूप प्राइवेट key का उपयोग करें।
• कंटेनर के अंदर आपके पास root एक्सेस होगा।

अपना Instance प्रबंधित करना

Instance प्रबंधन पेज से, आप कर सकते हैं:

• बिलिंग रोकने के लिए instance शुरू / बंद करें (केवल On-Demand)
• रीयल-टाइम में GPU उपयोग, मेमोरी उपयोग और कंप्यूट मेट्रिक्स की निगरानी करें
• अपनी चल रही प्रक्रियाओं के लॉग देखें
• काम पूरा होने पर instance समाप्त करें

Persistent Storage

GPUnex नेटवर्क-अटैच्ड persistent storage प्रदान करता है जो आपके GPU instance लाइफसाइकल से स्वतंत्र है।

मुख्य विशेषताएँ

• रीस्टार्ट से बचता है। जब आप कोई instance बंद और पुनः शुरू करते हैं तो आपका डेटा अक्षुण्ण रहता है।
• नए instances से जोड़ा जा सकता है। यदि आप एक instance समाप्त करते हैं और एक नया तैनात करते हैं, तो आप अपने मौजूदा स्टोरेज वॉल्यूम को नए instance से जोड़ सकते हैं। आपके सभी डेटा, मॉडल checkpoints, datasets और कोड संरक्षित रहते हैं।
• डेटा persistence। आपका स्टोरेज वॉल्यूम तब तक बना रहता है जब तक आप इसे स्पष्ट रूप से हटा नहीं देते, चाहे आपके कंप्यूट instances के साथ कुछ भी हो।

Persistent Storage के उपयोग के मामले

• कई ट्रेनिंग रन में उपयोग किए जाने वाले ट्रेनिंग datasets स्टोर करें
• बाधाओं के बाद ट्रेनिंग फिर से शुरू करने के लिए मॉडल checkpoints सहेजें (Spot instances के लिए विशेष रूप से महत्वपूर्ण)
• Instance परिवर्तनों में कोड रिपॉज़िटरी और विकास वातावरण बनाए रखें
• लंबे चलने वाले रिसर्च प्रोजेक्ट के लिए प्रयोग लॉग और परिणाम रखें

सहायता प्राप्त करना

मानक सहायता

सभी किराएदारों को तकनीकी समस्याओं, बिलिंग प्रश्नों और सामान्य सहायता के लिए GPUnex सहायता प्रणाली तक पहुँच है। अपने डैशबोर्ड में सहायता अनुभाग के माध्यम से संपर्क करें।

Enterprise सहायता

Enterprise ग्राहकों और बड़ी तैनातियों वाली टीमों को अतिरिक्त सहायता प्राप्त होती है:

• एक नामित संपर्क बिंदु के साथ समर्पित अकाउंट प्रबंधन
• तेज़ प्रतिक्रिया समय के साथ प्राथमिकता सहायता
• आपकी विशिष्ट वर्कलोड आवश्यकताओं के अनुरूप कस्टम क्लस्टर कॉन्फ़िगरेशन
• बड़े पैमाने की तैनातियों के लिए वॉल्यूम मूल्य निर्धारण
• अपटाइम और प्रदर्शन के लिए SLA गारंटी

कस्टम समाधान चाहिए?

कस्टम क्लस्टर कॉन्फ़िगरेशन, मल्टी-नोड तैनातियों, reserved क्षमता समझौतों, या enterprise मूल्य निर्धारण के लिए, हमारी बिक्री टीम मदद के लिए तैयार है। चाहे आपको एक समर्पित H100 क्लस्टर या अनुकूलित इंफ्रास्ट्रक्चर सेटअप की आवश्यकता हो, हम आपके वर्कलोड के लिए सही समाधान बना सकते हैं।

बिक्री टीम से संपर्क करें अपनी आवश्यकताओं पर चर्चा करने और एक व्यक्तिगत कोटेशन प्राप्त करने के लिए।

अगले कदम

• API Reference — GPUnex GPU प्रबंधन को अपनी स्क्रिप्ट और ऑटोमेशन पाइपलाइनों में एकीकृत करें
• GPU पैकेज कैसे काम करते हैं — GPUnex मार्केटप्लेस के निवेशक पक्ष के बारे में जानें
• बिक्री टीम से संपर्क करें — Enterprise समाधानों, कस्टम कॉन्फ़िगरेशन और वॉल्यूम मूल्य निर्धारण के लिए संपर्क करें