NVIDIA

A100 80GB SXM

AmpereAmpere80 GB VRAMHBM2ESXMPrevious

24 ऑफ़रिंग देखें A100 80GB SXM के बारे में Kova से पूछें

ऑफ़रिंग की तुलना करें आधिकारिक पेज ↗ (नए टैब में खुलता है)

लाइव ऑफ़रिंग: 24
प्रोवाइडर: 11
रीजन: 5
तुलनीय कीमत सीमा USD / GPU-hour: $0.89–$3.18
नवीनतम जाँच: 29 सित॰ 2026

एक्सेलरेटर ओवरव्यू

मुख्य हार्डवेयर और लाइफ़साइकल, Kovara मास्टर डेटा से।

मुख्य हार्डवेयर

आर्किटेक्चर: Ampere
पीढ़ी: Ampere
VRAM: 80 GB
मेमोरी प्रकार: HBM2E
मेमोरी बैंडविड्थ: 2.039 TB/s
फ़ॉर्म फ़ैक्टर: SXM

लाइफ़साइकल / उपयोग

मुख्य उपयोग: AI training / inference / HPC
लॉन्च वर्ष: 2020
पीढ़ी की स्थिति: Previous
अंतिम सत्यापन: 03 सित॰ 2026

हार्डवेयर विस्तार से

दर्ज स्पेसिफ़िकेशन का व्यवहार में क्या मतलब है, और यह एक्सेलरेटर किस काम आता है।

स्पेसिफ़िकेशन, सरल शब्दों में

AI training, inference और HPC के लिए इस्तेमाल होता है

VRAM
80 GB
मेमोरी प्रकार
HBM2E
मेमोरी बैंडविड्थ
2.039 TB/s
HBM (हाई बैंडविड्थ मेमोरी) परतों में स्टैक की जाती है और उसी पैकेज पर प्रोसेसर के ठीक बगल में रहती है। यही छोटा, चौड़ा रास्ता HBM वाले एक्सेलरेटर को उनकी मेमोरी बैंडविड्थ देता है, इसलिए उन्हें आमतौर पर ऐसे काम के लिए चुना जाता है जो इस बात से सीमित होता है कि डेटा कितनी तेज़ी से कोर तक पहुँचता है, जैसे बड़े मॉडल का इन्फ़रेंस और HPC सिमुलेशन।
VRAM कार्ड पर कार्य करने की जगह है। मॉडल वेट, एक्टिवेशन और डेटासेट इसमें फ़िट होने चाहिए, या कई GPU में बाँटे जाने चाहिए। केवल वेट के लिए 16-बिट प्रिसिज़न पर अनुमानित नियम (हर एक अरब पैरामीटर पर लगभग 2 GB): एक्टिवेशन और कैश से पहले, लगभग 40 अरब पैरामीटर तक। यह दर्ज VRAM पर किया गया हिसाब है, बेंचमार्क नहीं।
आर्किटेक्चर
Ampere
लॉन्च वर्ष
2020
लाइफ़साइकल की स्थिति
Previous
Ampere अपने डेटा-सेंटर पार्ट्स में तीसरी पीढ़ी के Tensor Core, TF32 प्रिसिज़न और मल्टी-इंस्टेंस GPU (MIG) लाया। (आर्किटेक्चर के बारे में सामान्य संदर्भ, इस ख़ास कार्ड के बारे में कथन नहीं।)
2020 में लॉन्च हुआ Kovara के रिकॉर्ड में यह पिछली पीढ़ी के पार्ट के रूप में दर्ज है।
NVLink
समर्थित
MIG
समर्थित
फ़ॉर्म फ़ैक्टर
SXM
TDP
400 W
NVLink एक डायरेक्ट GPU-से-GPU लिंक है। जहाँ यह समर्थित है, वहाँ एक ही सर्वर के GPU केवल PCIe की तुलना में तेज़ी से डेटा का आदान-प्रदान कर सकते हैं, जो तब मायने रखता है जब एक ट्रेनिंग जॉब कई GPU में फैला हो।
मल्टी-इंस्टेंस GPU (MIG) एक भौतिक GPU को अलग-थलग हिस्सों में बाँट सकता है, जिनमें हर एक की अपनी मेमोरी और कंप्यूट होता है, ताकि कई छोटे वर्कलोड एक कार्ड साझा कर सकें।
SXM मॉड्यूल कार्ड की तरह स्लॉट में लगने के बजाय सीधे सर्वर बेसबोर्ड पर लगाए जाते हैं, यह लेआउट आमतौर पर घने मल्टी-GPU सर्वरों में इस्तेमाल होता है।
TDP रेटेड थर्मल डिज़ाइन पावर है: सर्वर में पावर डिलीवरी और कूलिंग की योजना बनाने का आँकड़ा।
मुख्य उपयोग (दर्ज)
AI training / inference / HPC
ये वे उपयोग हैं जो Kovara ने इस पार्ट के लिए दर्ज किए हैं। नोट्स वर्कलोड को सामान्य शब्दों में समझाते हैं; ये परफ़ॉर्मेंस के दावे नहीं हैं।
- AI trainingडेटा से किसी मॉडल को सिखाना। आमतौर पर सबसे ज़्यादा कंप्यूट और मेमोरी लेने वाला चरण, जो अक्सर कई GPU में फैला होता है।
- inferenceअनुरोधों का जवाब देने के लिए किसी ट्रेन किए गए मॉडल को चलाना। मेमोरी क्षमता, लेटेंसी और प्रति अनुरोध लागत आम चिंताएँ हैं।
- HPCवैज्ञानिक और इंजीनियरिंग सिमुलेशन, जहाँ संख्यात्मक प्रिसिज़न और मेमोरी बैंडविड्थ मायने रखते हैं।

आँकड़े Kovara मास्टर डेटा हैं, अंतिम सत्यापन 03 सित॰ 2026। व्याख्याएँ तकनीक का सामान्य वर्णन करती हैं; वे बेंचमार्क नहीं हैं और कीमत या उपलब्धता के बारे में कुछ नहीं कहतीं।

इस एक्सेलरेटर को Compute पर देखें

HBM2E स्टैक
GPU डाई
इंटरपोज़र
बोर्ड
पावर
इनपुट
आउटपुट
NVLink
पड़ोसी GPU
MIG सेक्टर
SXM कनेक्टर

प्रतीकात्मक चित्र80 GB HBM2E मेमोरी

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में
प्रोवाइडर	रीजन	कॉन्फ़िगरेशन	उपलब्धता	कीमत	व्यावसायिक मॉडल	भरोसा / साक्ष्य	कार्रवाई
OFR-0427Verda	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$0.89 USD / GPU-hourमूल: USD 0.89 GPU/hour	SpotGPU instance · Hourly	कॉन्फ़िडेंस A13 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000009	देखें
OFR-0599CoreWeave	Europe, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.19 USD / GPU-hourमूल: USD 9.51 instance-hour	SpotGPU instance · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000013	देखें
OFR-0624CoreWeave	North America, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.21 USD / GPU-hourमूल: USD 9.65 instance-hour	SpotGPU instance · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000013	देखें
OFR-0379Hyperstack	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXMप्रति नोड 8 GPU	Availability unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.36 USD / GPU-hourमूल: USD 1.36 GPU/hour from	ReservedGPU VM · Starting hourly reservation rate	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000002	देखें
OFR-0759Massed Compute	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$1.38 USD / GPU-hourमूल: USD 1.38 instance-hour	On-DemandGPU VM · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000037	देखें
OFR-0285Massed Compute	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$1.38 USD / GPU-hourमूल: USD 1.38 instance-hour	On-DemandGPU VM · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000037	देखें
OFR-0286Massed Compute	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$1.38 USD / GPU-hourमूल: USD 11.04 instance-hour	On-DemandGPU VM · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000037	देखें
OFR-0760Massed Compute	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$1.38 USD / GPU-hourमूल: USD 11.04 instance-hour	On-DemandGPU VM · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000037	देखें
OFR-0300Denvr Data	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.45 USD / GPU-hourमूल: USD 1.45 GPU/hour	On-DemandGPU platform · Per-minute billing	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000038	देखें
OFR-0193Runpod	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.59 USD / GPU-hourमूल: USD 1.59 GPU/hour	On-DemandPod GPU instance · Per second / hourly equivalent	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000022	देखें
OFR-0378Hyperstack	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXMप्रति नोड 8 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.60 USD / GPU-hourमूल: USD 1.60 GPU/hour	On-DemandGPU VM · Per minute	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000002	देखें
OFR-0426Verda	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.78 USD / GPU-hourमूल: USD 1.78 GPU/hour	On-DemandGPU instance · Hourly	कॉन्फ़िडेंस A13 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000009	देखें
OFR-0192Runpod	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$1.79 USD / GPU-hourमूल: USD 1.79 GPU/hour	On-demand clusterGPU cluster · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000022	देखें
OFR-0670Crusoe Cloud	Virginia, United States	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Available in documented zoneपुष्ट क्षमता: पुष्टि नहीं हुई	$2.30 USD / GPU-hourमूल: USD 18.40 instance-hour	On-DemandGPU instance · GPU-hour	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000004	देखें
OFR-0623CoreWeave	North America, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$2.70 USD / GPU-hourमूल: USD 21.60 instance-hour	On-DemandGPU instance · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000013	देखें
OFR-0598CoreWeave	Europe, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly listedपुष्ट क्षमता: पुष्टि नहीं हुई	$2.70 USD / GPU-hourमूल: USD 21.60 instance-hour	On-DemandGPU instance · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000013	देखें
OFR-0625CoreWeave	North America, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन	Inference platform customersपुष्ट क्षमता: पुष्टि नहीं हुई	$2.70 USD / GPU-hourमूल: USD 2.70 GPU/hour	Inference platformInference single GPU · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000013	देखें
OFR-0230Lambda	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Self-serve first-comeपुष्ट क्षमता: पुष्टि नहीं हुई	$2.79 USD / GPU-hourमूल: USD 2.79 GPU/hour	On-DemandGPU instance · Hourly	कॉन्फ़िडेंस A17 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000017	देखें
OFR-0740Paperspace	Region dependent, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly priced; regional capacity variesपुष्ट क्षमता: पुष्टि नहीं हुई	$3.18 USD / GPU-hourमूल: USD 25.44 instance-hour	On-DemandDedicated GPU instance · Hourly while powered on	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000021	देखें
OFR-0739Paperspace	Region dependent, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Publicly priced; regional capacity variesपुष्ट क्षमता: पुष्टि नहीं हुई	$3.18 USD / GPU-hourमूल: USD 3.18 instance-hour	On-DemandDedicated GPU instance · Hourly while powered on	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000021	देखें
OFR-0194Runpod	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Contact salesपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: उपलब्ध नहीं	ReservedReserved GPU cluster · Contact sales	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000022	देखें
OFR-0514Gcore	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Availableपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: EUR 10.16 instance-hour	On-DemandBare metal GPU cluster · Hourly	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000015	देखें
OFR-0250TensorDock	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Exact current public floor not reverifiedपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: उपलब्ध नहीं	On-DemandMarketplace GPU VM · Dynamic marketplace pricing	कॉन्फ़िडेंस B11 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000035	देखें
OFR-0579Crusoe Cloud	Unspecified, Multiple / Unspecified	NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Contact salesपुष्ट क्षमता: पुष्टि नहीं हुई	तुलनीय कीमत अनुपलब्धमूल: उपलब्ध नहीं	SpotGPU instance · Contact sales	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000004	देखें

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में

प्रोवाइडर

रीजन

कॉन्फ़िगरेशन

उपलब्धता

कीमत

व्यावसायिक मॉडल

भरोसा / साक्ष्य

कार्रवाई

OFR-0427Verda

Unspecified, Multiple / Unspecified

NVIDIA A100 80GB SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU

Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई

$0.89 USD / GPU-hourमूल: USD 0.89 GPU/hour

SpotGPU instance · Hourly

कॉन्फ़िडेंस A13 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000009

मुख्य हार्डवेयर

लाइफ़साइकल / उपयोग

AI training, inference और HPC के लिए इस्तेमाल होता है

0180 GB HBM2E मेमोरी

02Ampere आर्किटेक्चर

03कई GPU में स्केल करने के लिए बना

04इसका उपयोग किसलिए होता है

कंप्यूट

मेमोरी

प्लेटफ़ॉर्म

लाइफ़साइकल / उपयोग