NVIDIA

H100 PCIe 80GB

HopperHopper80 GB VRAMHBM2EPCIe dual-slotPrevious

8 ऑफ़रिंग देखें H100 PCIe 80GB के बारे में Kova से पूछें

ऑफ़रिंग की तुलना करें आधिकारिक पेज ↗ (नए टैब में खुलता है)

लाइव ऑफ़रिंग: 8
प्रोवाइडर: 7
रीजन: 3
तुलनीय कीमत सीमा USD / GPU-hour: $1.99–$3.29
नवीनतम जाँच: 29 सित॰ 2026

एक्सेलरेटर ओवरव्यू

मुख्य हार्डवेयर और लाइफ़साइकल, Kovara मास्टर डेटा से।

मुख्य हार्डवेयर

आर्किटेक्चर: Hopper
पीढ़ी: Hopper
VRAM: 80 GB
मेमोरी प्रकार: HBM2E
मेमोरी बैंडविड्थ: 2 TB/s
फ़ॉर्म फ़ैक्टर: PCIe dual-slot

लाइफ़साइकल / उपयोग

मुख्य उपयोग: AI training / inference / HPC
लॉन्च वर्ष: 2022
पीढ़ी की स्थिति: Previous
अंतिम सत्यापन: 03 सित॰ 2026

हार्डवेयर विस्तार से

दर्ज स्पेसिफ़िकेशन का व्यवहार में क्या मतलब है, और यह एक्सेलरेटर किस काम आता है।

स्पेसिफ़िकेशन, सरल शब्दों में

AI training, inference और HPC के लिए इस्तेमाल होता है

VRAM
80 GB
मेमोरी प्रकार
HBM2E
मेमोरी बैंडविड्थ
2 TB/s
HBM (हाई बैंडविड्थ मेमोरी) परतों में स्टैक की जाती है और उसी पैकेज पर प्रोसेसर के ठीक बगल में रहती है। यही छोटा, चौड़ा रास्ता HBM वाले एक्सेलरेटर को उनकी मेमोरी बैंडविड्थ देता है, इसलिए उन्हें आमतौर पर ऐसे काम के लिए चुना जाता है जो इस बात से सीमित होता है कि डेटा कितनी तेज़ी से कोर तक पहुँचता है, जैसे बड़े मॉडल का इन्फ़रेंस और HPC सिमुलेशन।
VRAM कार्ड पर कार्य करने की जगह है। मॉडल वेट, एक्टिवेशन और डेटासेट इसमें फ़िट होने चाहिए, या कई GPU में बाँटे जाने चाहिए। केवल वेट के लिए 16-बिट प्रिसिज़न पर अनुमानित नियम (हर एक अरब पैरामीटर पर लगभग 2 GB): एक्टिवेशन और कैश से पहले, लगभग 40 अरब पैरामीटर तक। यह दर्ज VRAM पर किया गया हिसाब है, बेंचमार्क नहीं।
आर्किटेक्चर
Hopper
लॉन्च वर्ष
2022
लाइफ़साइकल की स्थिति
Previous
Hopper ने Transformer Engine जोड़ा, जो ट्रांसफ़ॉर्मर मॉडल के लिए FP8 और 16-बिट गणित को मिलाता है, साथ ही चौथी पीढ़ी के Tensor Core भी। (आर्किटेक्चर के बारे में सामान्य संदर्भ, इस ख़ास कार्ड के बारे में कथन नहीं।)
2022 में लॉन्च हुआ Kovara के रिकॉर्ड में यह पिछली पीढ़ी के पार्ट के रूप में दर्ज है।
NVLink
समर्थित
MIG
समर्थित
फ़ॉर्म फ़ैक्टर
PCIe dual-slot
TDP
350 W
NVLink एक डायरेक्ट GPU-से-GPU लिंक है। जहाँ यह समर्थित है, वहाँ एक ही सर्वर के GPU केवल PCIe की तुलना में तेज़ी से डेटा का आदान-प्रदान कर सकते हैं, जो तब मायने रखता है जब एक ट्रेनिंग जॉब कई GPU में फैला हो।
मल्टी-इंस्टेंस GPU (MIG) एक भौतिक GPU को अलग-थलग हिस्सों में बाँट सकता है, जिनमें हर एक की अपनी मेमोरी और कंप्यूट होता है, ताकि कई छोटे वर्कलोड एक कार्ड साझा कर सकें।
PCIe कार्ड मानक सर्वर और वर्कस्टेशन एक्सपेंशन स्लॉट में लगते हैं, जो कई तरह के सिस्टम के लिए उपयुक्त है।
TDP रेटेड थर्मल डिज़ाइन पावर है: सर्वर में पावर डिलीवरी और कूलिंग की योजना बनाने का आँकड़ा।
मुख्य उपयोग (दर्ज)
AI training / inference / HPC
ये वे उपयोग हैं जो Kovara ने इस पार्ट के लिए दर्ज किए हैं। नोट्स वर्कलोड को सामान्य शब्दों में समझाते हैं; ये परफ़ॉर्मेंस के दावे नहीं हैं।
- AI trainingडेटा से किसी मॉडल को सिखाना। आमतौर पर सबसे ज़्यादा कंप्यूट और मेमोरी लेने वाला चरण, जो अक्सर कई GPU में फैला होता है।
- inferenceअनुरोधों का जवाब देने के लिए किसी ट्रेन किए गए मॉडल को चलाना। मेमोरी क्षमता, लेटेंसी और प्रति अनुरोध लागत आम चिंताएँ हैं।
- HPCवैज्ञानिक और इंजीनियरिंग सिमुलेशन, जहाँ संख्यात्मक प्रिसिज़न और मेमोरी बैंडविड्थ मायने रखते हैं।

आँकड़े Kovara मास्टर डेटा हैं, अंतिम सत्यापन 03 सित॰ 2026। व्याख्याएँ तकनीक का सामान्य वर्णन करती हैं; वे बेंचमार्क नहीं हैं और कीमत या उपलब्धता के बारे में कुछ नहीं कहतीं।

इस एक्सेलरेटर को Compute पर देखें

HBM2E स्टैक
GPU डाई
इंटरपोज़र
बोर्ड
पावर
इनपुट
आउटपुट
NVLink
पड़ोसी GPU
MIG सेक्टर
PCIe कनेक्टर

प्रतीकात्मक चित्र80 GB HBM2E मेमोरी

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में
प्रोवाइडर	रीजन	कॉन्फ़िगरेशन	उपलब्धता	कीमत	व्यावसायिक मॉडल	भरोसा / साक्ष्य	कार्रवाई
OFR-0310Civo	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$1.99 USD / GPU-hourमूल: USD 1.99 instance-hour	CommittedGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000039	देखें
OFR-0377Hyperstack	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GBकॉन्फ़िगरेशन मात्रा निर्दिष्ट नहीं	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$2.00 USD / GPU-hourमूल: USD 2.00 GPU/hour	SpotGPU VM · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000002	देखें
OFR-0311Civo	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$2.49 USD / GPU-hourमूल: USD 2.49 instance-hour	On-DemandGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000039	देखें
OFR-0185Runpod	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$2.89 USD / GPU-hourमूल: USD 2.89 GPU/hour	On-DemandPod GPU instance · Per second / hourly equivalent	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000022	देखें
OFR-0344Thunder Compute	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$3.20 USD / GPU-hourमूल: USD 3.20 GPU/hour	On-DemandGPU VM · Per minute	कॉन्फ़िडेंस A14 दिन पहले जाँचा गया24 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000042	देखें
OFR-0229Lambda	Unspecified, Multiple / Unspecified	NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Self-serve first-comeपुष्ट क्षमता: पुष्टि नहीं हुई	$3.29 USD / GPU-hourमूल: USD 3.29 GPU/hour	On-DemandGPU instance · Hourly	कॉन्फ़िडेंस A17 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000017	देखें
OFR-0164CUDO Compute	Deployment dependent, Multiple / Unspecified	NVIDIA H100 PCIe 80GBकॉन्फ़िगरेशन मात्रा निर्दिष्ट नहीं	Contact salesपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: उपलब्ध नहीं	Private QuoteDedicated Cluster · Quote on request	कॉन्फ़िडेंस B16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000025	देखें
OFR-0126Scaleway	Paris / availability-zone dependent, France	NVIDIA H100 PCIe 80GBकॉन्फ़िगरेशन मात्रा निर्दिष्ट नहीं	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: EUR 2.86 GPU/hour from	On-DemandGPU instance family · Per-minute	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया24 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000145	देखें

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में

प्रोवाइडर

रीजन

कॉन्फ़िगरेशन

उपलब्धता

कीमत

व्यावसायिक मॉडल

भरोसा / साक्ष्य

कार्रवाई

OFR-0310Civo

Unspecified, Multiple / Unspecified

NVIDIA H100 PCIe 80GB1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU