Cloud GPU मूल्य निर्धारण: संपूर्ण तस्वीर
Cloud GPU की विज्ञापित प्रति घंटा दर वह नहीं है जो आप वास्तव में भुगतान करते हैं। वास्तविक Cloud GPU लागत में छिपी फीस, बिलिंग ग्रैन्युलैरिटी पेनल्टी, और इंफ्रास्ट्रक्चर ओवरहेड शामिल होती हैं जो आपके बिल को हेडलाइन मूल्य से 20-40% तक बढ़ा सकती हैं।
यह गाइड उस पर ध्यान केंद्रित करती है जो अन्य मूल्य तुलनाएँ चूक जाती हैं: GPU वर्कलोड चलाने की कुल लागत, सिर्फ स्टिकर मूल्य नहीं। हम तीन प्रकार के प्रोवाइडर की तुलना करते हैं, छिपी लागतें उजागर करते हैं, और आपके GPU खर्च को कम करने के लिए पाँच ठोस रणनीतियाँ प्रदान करते हैं।
GPU स्पेक तुलना और वर्कलोड अनुशंसाओं के लिए, हमारी AI के लिए सर्वश्रेष्ठ GPU गाइड देखें। यह लेख प्रोवाइडर और मूल्य निर्धारण पर केंद्रित है — आप कहाँ किराए पर लेते हैं, क्या किराए पर लेते हैं नहीं।
तीन प्रकार के Cloud GPU प्रोवाइडर
Cloud GPU बाज़ार में तीन अलग-अलग स्तर हैं, प्रत्येक अलग मूल्य निर्धारण संरचना, ट्रेड-ऑफ, और लक्षित ग्राहकों के साथ।
हाइपरस्केलर (AWS, Google Cloud, Azure)
प्रमुख क्लाउड प्रोवाइडर अपने व्यापक इंफ्रास्ट्रक्चर प्लेटफॉर्म के हिस्से के रूप में GPU इंस्टेंस प्रदान करते हैं। आपको एंटरप्राइज़ SLA, वैश्विक क्षेत्र, प्रबंधित सेवाओं (स्टोरेज, ML प्लेटफॉर्म, मॉनिटरिंग) के साथ गहन एकीकरण, और रिज़र्व्ड इंस्टेंस के लिए गारंटीकृत उपलब्धता मिलती है।
प्रीमियम: ऑन-डिमांड पर H100 के लिए $3.00-$6.98/hr। रिज़र्व्ड इंस्टेंस (1-3 साल की प्रतिबद्धता) इसे 30-50% तक कम करते हैं, लेकिन दीर्घकालिक लॉक-इन की आवश्यकता होती है।
विशेष GPU क्लाउड (Lambda, CoreWeave)
विशेष रूप से GPU इंफ्रास्ट्रक्चर पर केंद्रित। ये प्रोवाइडर प्रतिस्पर्धी मूल्य निर्धारण (H100 के लिए $2.00-$3.00/hr), AI वर्कलोड के लिए अनुकूलित कॉन्फिगरेशन, और AI-केंद्रित सपोर्ट प्रदान करते हैं — लेकिन हाइपरस्केलर की तुलना में कम प्रबंधित सेवाएँ।
GPU मार्केटप्लेस (GPUnex, Vast.ai, RunPod)
सैकड़ों वितरित डेटा सेंटरों से GPU क्षमता एकत्र करते हैं। कई प्रोवाइडर से आपूर्ति एकत्र करके, मार्केटप्लेस सबसे प्रतिस्पर्धी मूल्य निर्धारण (H100 के लिए $1.49-$2.50/hr) लचीले बिलिंग के साथ प्रदान करते हैं — अक्सर प्रति-घंटा के बजाय प्रति-सेकंड। ट्रेड-ऑफ में परिवर्तनशील विश्वसनीयता और कम एकीकृत टूलिंग शामिल है।
GPU मॉडल के अनुसार मूल्य तुलना
2026 की शुरुआत में प्रत्येक GPU की वास्तविक लागत प्रोवाइडर प्रकारों में यह है:
| GPU मॉडल | हाइपरस्केलर ऑन-डिमांड | हाइपरस्केलर रिज़र्व्ड | विशेष क्लाउड | GPU मार्केटप्लेस |
|---|---|---|---|---|
| H100 80GB | $3.00–$6.98/hr | $2.00–$4.50/hr | $2.00–$3.00/hr | $1.49–$2.50/hr |
| A100 80GB | $1.50–$3.50/hr | $1.00–$2.50/hr | $0.80–$1.50/hr | $0.72–$1.50/hr |
| L40S 48GB | $1.20–$2.50/hr | $0.80–$1.80/hr | $0.80–$1.50/hr | $0.60–$1.20/hr |
| L4 24GB | $0.50–$1.00/hr | $0.30–$0.70/hr | $0.30–$0.60/hr | $0.20–$0.50/hr |
| RTX 4090 24GB | N/A (उपलब्ध नहीं) | N/A | $0.40–$0.80/hr | $0.40–$0.80/hr |
मुख्य अवलोकन: हाइपरस्केलर ऑन-डिमांड और मार्केटप्लेस मूल्य निर्धारण के बीच मूल्य अंतर समान GPU हार्डवेयर के लिए 2-4.7 गुना है। H100 के लिए, $6.98/hr (AWS ऑन-डिमांड) और $1.49/hr (मार्केटप्लेस स्पॉट) के बीच का अंतर $5.49/hr है — जो 24/7 चलने वाले एकल GPU के लिए प्रति माह $4,008 हो जाता है।
छिपी लागतें जो आपका GPU बिल बढ़ाती हैं
प्रति घंटा GPU दर कहानी का केवल एक हिस्सा है। छिपी लागतों की पाँच श्रेणियाँ नियमित रूप से टीमों को चौंकाती हैं:
1. डेटा इग्रेस फीस
क्लाउड प्रोवाइडर के नेटवर्क से डेटा बाहर ले जाने में पैसा लगता है — आमतौर पर $0.05-$0.12 प्रति GB। एक मॉडल प्रशिक्षित करना जो 1 TB प्रशिक्षण डेटा डाउनलोड करता है और नियमित रूप से चेकपॉइंट निर्यात करता है, प्रति प्रशिक्षण रन $50-$120 इग्रेस फीस जोड़ सकता है। मल्टी-क्लाउड वर्कफ्लो (एक प्रोवाइडर पर प्रशिक्षण, दूसरे पर इंफरेंस) इन लागतों को गुणा करते हैं।
2. स्टोरेज लागत
GPU इंस्टेंस को डेटासेट, मॉडल चेकपॉइंट, और लॉग के लिए डिस्क स्पेस की आवश्यकता होती है। क्लाउड स्टोरेज की लागत $0.02-$0.08/GB/माह होती है। 3 महीने के लिए संग्रहीत 5 TB डेटासेट की लागत $300-$1,200 होती है — GPU प्रति घंटा दर में अदृश्य लेकिन बिल पर बहुत स्पष्ट।
3. नेटवर्किंग और लोड बैलेंसिंग
प्रोडक्शन इंफरेंस के लिए लोड बैलेंसर, API गेटवे, और इंटर-नोड नेटवर्किंग की आवश्यकता होती है। ये सेवाएँ ट्रैफिक वॉल्यूम के आधार पर $50-$200+/माह जोड़ती हैं। मल्टी-GPU प्रशिक्षण क्लस्टर हाई-स्पीड इंटर-नोड नेटवर्किंग के लिए अतिरिक्त लागत वहन करते हैं।
4. न्यूनतम प्रतिबद्धताएँ और राउंडिंग
कुछ प्रोवाइडर प्रति घंटा वृद्धि में बिल करते हैं — 35 मिनट के कार्य की लागत 60 मिनट के कार्य जितनी ही होती है। प्रति-सेकंड बिलिंग (कुछ मार्केटप्लेस द्वारा प्रदान) इस बर्बादी को समाप्त करती है। कई छोटे कार्यों वाले बर्स्टी वर्कलोड के लिए, प्रति-घंटा बिलिंग अप्रयुक्त समय पर आपके खर्च का 15-30% बर्बाद कर सकती है।
5. API और प्रबंधन सेवा फीस
प्रबंधित ML सेवाएँ (SageMaker, Vertex AI) GPU कंप्यूट के ऊपर अतिरिक्त शुल्क लगाती हैं। ये प्रबंधित प्रशिक्षण और डिप्लॉयमेंट पाइपलाइन की सुविधा के लिए बेस GPU लागत पर 10-30% जोड़ सकती हैं।
मुख्य अंतर्दृष्टि: एक वर्कलोड जिसकी GPU कंप्यूट लागत $3.15/hr है, जब आप इग्रेस, स्टोरेज, नेटवर्किंग, और प्रबंधन शुल्क जोड़ते हैं तो कुल $4.00-$4.50/hr लागत हो सकती है। हमेशा अपने वर्कलोड की कुल लागत की गणना करें, सिर्फ GPU लाइन आइटम की नहीं।
Cloud GPU लागत को 40% कैसे कम करें
पाँच सिद्ध रणनीतियाँ जो संयुक्त रूप से आपके कुल GPU खर्च को 30-40% तक कम कर सकती हैं:
1. स्पॉट/प्रीएम्पटिबल इंस्टेंस का उपयोग करें (15-20% बचाएँ)
स्पॉट इंस्टेंस ऑन-डिमांड मूल्य निर्धारण पर 40-60% छूट प्रदान करते हैं। कैच: इन्हें कम नोटिस (आमतौर पर 2 मिनट से 2 घंटे) के साथ बाधित किया जा सकता है। फॉल्ट-टॉलरेंट वर्कलोड के लिए — चेकपॉइंटिंग के साथ प्रशिक्षण, बैच डेटा प्रोसेसिंग, गैर-तत्काल इंफरेंस — स्पॉट इंस्टेंस सबसे बड़ा लागत लीवर है।
सबसे अच्छा काम करता है: नियमित चेकपॉइंट के साथ मॉडल प्रशिक्षण, डेटा प्रीप्रोसेसिंग, बैच इंफरेंस, प्रयोग।
काम नहीं करता: लाइव उपयोगकर्ताओं को सेवा देने वाला प्रोडक्शन इंफरेंस, समय-महत्वपूर्ण कार्य, ऐसे वर्कलोड जो बाधा सहन नहीं कर सकते।
2. अपने GPU को राइट-साइज़ करें (8-12% बचाएँ)
कई टीमें “सुरक्षित रहने के लिए” सबसे शक्तिशाली GPU पर डिफ़ॉल्ट होती हैं। A100 ($0.72/hr) पर ठीक चलने वाले वर्कलोड को H100 ($3.15/hr) की आवश्यकता नहीं है। हमारी AI के लिए सर्वश्रेष्ठ GPU गाइड एक वर्कलोड निर्णय फ्रेमवर्क प्रदान करती है — GPU मॉडल को कार्य से मिलाने से अत्यधिक प्रावधान वाले वर्कलोड के लिए लागत 50%+ कम हो सकती है।
सामान्य गलतियाँ: जब L40S पर्याप्त हो तब इंफरेंस के लिए H100 का उपयोग करना। जब RTX 4090 काम करता हो तब छोटे मॉडलों की फाइन-ट्यूनिंग के लिए A100 का उपयोग करना। जब स्पॉट उपलब्ध हो तब ऑन-डिमांड इंस्टेंस पर बैच इंफरेंस चलाना।
3. शेड्यूल करें और ऑटो-स्केल करें (5-8% बचाएँ)
GPU इंस्टेंस 24/7 चल रहे हैं जबकि आपकी टीम दिन में 8 घंटे काम करती है — खर्च का दो-तिहाई बर्बाद। ऑटो-स्केलिंग नीतियाँ जो प्रशिक्षण कार्यों के लिए GPU शुरू करती हैं और निष्क्रिय होने पर बंद करती हैं, महत्वपूर्ण बर्बादी को पुनः प्राप्त कर सकती हैं। साधारण शेड्यूलिंग भी — “सुबह 8 बजे GPU चालू, शाम 8 बजे बंद” — विकास इंस्टेंस पर 50% बचत करती है।
4. वर्कलोड को मार्केटप्लेस में माइग्रेट करें (10-15% बचाएँ)
ऐसे वर्कलोड के लिए जिन्हें हाइपरस्केलर-विशिष्ट प्रबंधित सेवाओं की आवश्यकता नहीं है, GPU मार्केटप्लेस पर जाने से कंप्यूट पर 3-6 गुना बचत हो सकती है। मुख्य आवश्यकता: आपका वर्कलोड कंटेनरीकृत (Docker) होना चाहिए और प्रोवाइडर-विशिष्ट API (SageMaker, Vertex AI) पर निर्भर नहीं होना चाहिए।
5. रिज़र्व्ड/प्रतिबद्ध क्षमता का उपयोग करें (अतिरिक्त 5-10% बचाएँ)
अनुमानित, निरंतर वर्कलोड (प्रोडक्शन इंफरेंस, चल रहे प्रशिक्षण) के लिए, रिज़र्व्ड क्षमता प्रतिबद्धताएँ ऑन-डिमांड मूल्य निर्धारण पर 30-50% छूट प्रदान करती हैं। ट्रेड-ऑफ प्रतिबद्धता है — आमतौर पर 1-3 साल। अपने बेसलाइन के लिए रिज़र्व्ड क्षमता को परिवर्तनीय लोड के लिए स्पॉट/मार्केटप्लेस के साथ मिलाएँ।
प्रोवाइडर-दर-प्रोवाइडर विवरण
AWS (Amazon Web Services)
GPU इंस्टेंस: P5 (H100), P4 (A100), G5 (A10G), G6 (L4)। मूल्य निर्धारण: H100 ऑन-डिमांड: ~$4.50-$6.98/hr। रिज़र्व्ड (1 वर्ष): ~$3.00-$4.50/hr। स्पॉट: ~$1.50-$2.50/hr। ताकत: सबसे व्यापक प्रबंधित सेवा इकोसिस्टम (SageMaker, EKS, S3), वैश्विक उपलब्धता, एंटरप्राइज़ सपोर्ट। सावधान रहें: इग्रेस फीस ($0.09/GB), जटिल मूल्य निर्धारण स्तर, ऑन-डिमांड के लिए इंस्टेंस उपलब्धता में उतार-चढ़ाव।
Google Cloud Platform
GPU इंस्टेंस: A3 (H100), A2 (A100), G2 (L4)। मूल्य निर्धारण: H100 ऑन-डिमांड: ~$3.50-$5.50/hr। प्रतिबद्ध (1 वर्ष): ~$2.50-$3.50/hr। स्पॉट: ~$1.50-$2.00/hr। ताकत: मजबूत TPU विकल्प, उत्कृष्ट JAX/TensorFlow एकीकरण, Vertex AI प्रबंधित प्लेटफॉर्म, प्रतिस्पर्धी स्पॉट मूल्य निर्धारण। सावधान रहें: AWS की तुलना में छोटा GPU फ्लीट, कुछ क्षेत्रों में कम उपलब्धता।
Microsoft Azure
GPU इंस्टेंस: ND H100 (H100), NC A100 (A100), NC T4 (T4)। मूल्य निर्धारण: H100 ऑन-डिमांड: ~$3.00-$5.00/hr। रिज़र्व्ड (1 वर्ष): ~$2.00-$3.50/hr। ताकत: OpenAI एकीकरण (Azure OpenAI Service), मजबूत एंटरप्राइज़ पहचान/सुरक्षा, हाइब्रिड क्लाउड क्षमताएँ। सावधान रहें: लोकप्रिय क्षेत्रों में GPU उपलब्धता सीमित हो सकती है।
GPU मार्केटप्लेस
उपलब्ध GPU: H100, A100, L40S, L4, RTX 4090, और अन्य। मूल्य निर्धारण: H100: $1.49-$2.50/hr। A100: $0.72-$1.50/hr। RTX 4090: $0.40-$0.80/hr। ताकत: सबसे कम कीमतें, लचीला बिलिंग (कुछ प्लेटफॉर्म पर प्रति-सेकंड), कोई प्रतिबद्धता नहीं, उपभोक्ता कार्ड सहित व्यापक GPU चयन। सावधान रहें: प्रोवाइडर के आधार पर परिवर्तनशील विश्वसनीयता, कम प्रबंधित टूलिंग, अधिक सेल्फ-सर्विस कॉन्फिगरेशन की आवश्यकता हो सकती है।
किस प्रोवाइडर प्रकार का कब उपयोग करें
| परिदृश्य | सर्वोत्तम प्रोवाइडर प्रकार | क्यों |
|---|---|---|
| एंटरप्राइज़ प्रोडक्शन इंफरेंस | हाइपरस्केलर | SLA, वैश्विक उपलब्धता, प्रबंधित सेवाएँ |
| बड़े पैमाने पर प्रशिक्षण (1000+ GPU) | हाइपरस्केलर या विशेष क्लाउड | गारंटीकृत क्षमता, NVLink नेटवर्किंग |
| लागत-अनुकूलित प्रशिक्षण | GPU मार्केटप्लेस (स्पॉट) | सबसे कम कीमतें, चेकपॉइंटिंग बाधाओं को संभालता है |
| विकास और प्रयोग | GPU मार्केटप्लेस | प्रति-सेकंड बिलिंग, कोई प्रतिबद्धता नहीं, सस्ता पुनरावृत्ति |
| छोटी टीम / स्टार्टअप | GPU मार्केटप्लेस | सबसे कम बाधा, लचीला स्केलिंग, कोई न्यूनतम नहीं |
| बैच इंफरेंस | GPU मार्केटप्लेस या स्पॉट | बाधा सहन करता है, मूल्य-संवेदनशील |
| विनियमित वर्कलोड (वित्त, स्वास्थ्य) | हाइपरस्केलर | अनुपालन प्रमाणन, ऑडिट ट्रेल |
किराया-बनाम-खरीद प्रश्न के लिए — क्या क्लाउड रेंटल हार्डवेयर के स्वामित्व से अधिक समझदारी है — हमारा विस्तृत लागत तुलना देखें। अपना पहला GPU खर्च बजट बनाने वाले स्टार्टअप के लिए, हमारी AI स्टार्टअप कंप्यूट लागत गाइड देखें।
अक्सर पूछे जाने वाले प्रश्न
H100 किराए पर लेने का सबसे सस्ता तरीका क्या है?
GPU मार्केटप्लेस $1.49-$2.50/hr पर सबसे कम H100 दरें प्रदान करते हैं। हाइपरस्केलर स्पॉट इंस्टेंस $1.50-$2.50/hr पर अगले हैं लेकिन बाधित हो सकते हैं। सबसे सस्ता विश्वसनीय विकल्प उच्च अपटाइम स्कोर वाले प्रोवाइडर के साथ मार्केटप्लेस है। गैर-समय-महत्वपूर्ण वर्कलोड के लिए, किसी भी प्लेटफॉर्म पर स्पॉट मूल्य निर्धारण सबसे गहरी छूट प्रदान करता है।
क्या छिपी लागतें वास्तव में इतनी महत्वपूर्ण हैं?
हाँ। एक सामान्य प्रशिक्षण वर्कलोड के लिए, छिपी लागतें (इग्रेस, स्टोरेज, नेटवर्किंग) GPU कंप्यूट बिल के ऊपर 20-40% जोड़ती हैं। 2 TB डेटा ट्रांसफर और 500 GB चेकपॉइंट स्टोरेज के साथ प्रशिक्षण कार्य चलाने वाले $3.15/hr H100 इंस्टेंस की प्रभावी लागत कुल $4.00-$4.50/hr हो सकती है। हमेशा कुल वर्कलोड लागत का अनुमान लगाएँ, सिर्फ GPU प्रति-घंटा दर नहीं।
क्या मुझे एक प्रोवाइडर का उपयोग करना चाहिए या कई का?
कई का। लागत-संवेदनशील वर्कलोड (विकास, बैच प्रोसेसिंग, इंफरेंस) के लिए GPU मार्केटप्लेस का उपयोग करें। प्रोडक्शन इंफरेंस और विनियमित वर्कलोड के लिए हाइपरस्केलर का उपयोग करें। फॉल्ट-टॉलरेंट कार्यों के लिए सभी प्रोवाइडर में स्पॉट मूल्य निर्धारण का उपयोग करें। विविधीकरण लॉक-इन को रोकता है और आपको प्रत्येक स्तर पर लागत अनुकूलित करने देता है।
प्रति-सेकंड बिलिंग क्या है और क्या यह मायने रखती है?
प्रति-सेकंड बिलिंग आपसे केवल उस सटीक समय के लिए शुल्क लेती है जब आपका GPU सक्रिय होता है। प्रति-घंटा बिलिंग ऊपर की ओर पूर्णांकित करती है — 35 मिनट के कार्य की लागत 60 मिनट जितनी ही होती है। कई छोटे कार्यों (इंफरेंस, प्रयोग, CI/CD) वाले वर्कलोड के लिए, प्रति-सेकंड बिलिंग 15-30% बचाती है। लंबे प्रशिक्षण कार्यों के लिए, अंतर नगण्य है।
पिछले वर्ष GPU की कीमतों में कैसे बदलाव आया है?
बढ़ती आपूर्ति और मार्केटप्लेस प्रतिस्पर्धा से प्रेरित होकर H100 की कीमतें जून 2024 और जून 2025 के बीच 44% गिरीं। GPU पुरानी होने के कारण A100 की कीमतें और भी अधिक गिरीं। NVIDIA और AMD द्वारा उत्पादन बढ़ाने के साथ कीमतों में धीरे-धीरे गिरावट जारी रहने की उम्मीद है, हालाँकि नई पीढ़ी के GPU (B200, Rubin) लॉन्च पर प्रीमियम मूल्य निर्धारण की माँग करेंगे। व्यापक बाज़ार संदर्भ के लिए, हमारा OpenAI-NVIDIA बाज़ार विश्लेषण देखें।