NVIDIA

A100 40GB — provider does not specify PCIe/SXM

AmpereAmpere40 GB VRAMHBM2Previous

15 ऑफ़रिंग देखें यह GPU के बारे में Kova से पूछें

ऑफ़रिंग की तुलना करें आधिकारिक पेज ↗ (नए टैब में खुलता है)

लाइव ऑफ़रिंग: 15
प्रोवाइडर: 4
रीजन: 2
तुलनीय कीमत सीमा USD / GPU-hour: $0.69–$3.09
नवीनतम जाँच: 29 सित॰ 2026

एक्सेलरेटर ओवरव्यू

मुख्य हार्डवेयर और लाइफ़साइकल, Kovara मास्टर डेटा से।

मुख्य हार्डवेयर

आर्किटेक्चर: Ampere
पीढ़ी: Ampere
VRAM: 40 GB
मेमोरी प्रकार: HBM2
मेमोरी बैंडविड्थ: 1.555 TB/s

लाइफ़साइकल / उपयोग

मुख्य उपयोग: AI training / inference / HPC
लॉन्च वर्ष: 2020
पीढ़ी की स्थिति: Previous
अंतिम सत्यापन: 25 सित॰ 2026

हार्डवेयर विस्तार से

दर्ज स्पेसिफ़िकेशन का व्यवहार में क्या मतलब है, और यह एक्सेलरेटर किस काम आता है।

स्पेसिफ़िकेशन, सरल शब्दों में

AI training, inference और HPC के लिए इस्तेमाल होता है

VRAM
40 GB
मेमोरी प्रकार
HBM2
मेमोरी बैंडविड्थ
1.555 TB/s
HBM (हाई बैंडविड्थ मेमोरी) परतों में स्टैक की जाती है और उसी पैकेज पर प्रोसेसर के ठीक बगल में रहती है। यही छोटा, चौड़ा रास्ता HBM वाले एक्सेलरेटर को उनकी मेमोरी बैंडविड्थ देता है, इसलिए उन्हें आमतौर पर ऐसे काम के लिए चुना जाता है जो इस बात से सीमित होता है कि डेटा कितनी तेज़ी से कोर तक पहुँचता है, जैसे बड़े मॉडल का इन्फ़रेंस और HPC सिमुलेशन।
VRAM कार्ड पर कार्य करने की जगह है। मॉडल वेट, एक्टिवेशन और डेटासेट इसमें फ़िट होने चाहिए, या कई GPU में बाँटे जाने चाहिए। केवल वेट के लिए 16-बिट प्रिसिज़न पर अनुमानित नियम (हर एक अरब पैरामीटर पर लगभग 2 GB): एक्टिवेशन और कैश से पहले, लगभग 20 अरब पैरामीटर तक। यह दर्ज VRAM पर किया गया हिसाब है, बेंचमार्क नहीं।
आर्किटेक्चर
Ampere
लॉन्च वर्ष
2020
लाइफ़साइकल की स्थिति
Previous
Ampere अपने डेटा-सेंटर पार्ट्स में तीसरी पीढ़ी के Tensor Core, TF32 प्रिसिज़न और मल्टी-इंस्टेंस GPU (MIG) लाया। (आर्किटेक्चर के बारे में सामान्य संदर्भ, इस ख़ास कार्ड के बारे में कथन नहीं।)
2020 में लॉन्च हुआ Kovara के रिकॉर्ड में यह पिछली पीढ़ी के पार्ट के रूप में दर्ज है।
NVLink
समर्थित
MIG
समर्थित
NVLink एक डायरेक्ट GPU-से-GPU लिंक है। जहाँ यह समर्थित है, वहाँ एक ही सर्वर के GPU केवल PCIe की तुलना में तेज़ी से डेटा का आदान-प्रदान कर सकते हैं, जो तब मायने रखता है जब एक ट्रेनिंग जॉब कई GPU में फैला हो।
मल्टी-इंस्टेंस GPU (MIG) एक भौतिक GPU को अलग-थलग हिस्सों में बाँट सकता है, जिनमें हर एक की अपनी मेमोरी और कंप्यूट होता है, ताकि कई छोटे वर्कलोड एक कार्ड साझा कर सकें।
मुख्य उपयोग (दर्ज)
AI training / inference / HPC
ये वे उपयोग हैं जो Kovara ने इस पार्ट के लिए दर्ज किए हैं। नोट्स वर्कलोड को सामान्य शब्दों में समझाते हैं; ये परफ़ॉर्मेंस के दावे नहीं हैं।
- AI trainingडेटा से किसी मॉडल को सिखाना। आमतौर पर सबसे ज़्यादा कंप्यूट और मेमोरी लेने वाला चरण, जो अक्सर कई GPU में फैला होता है।
- inferenceअनुरोधों का जवाब देने के लिए किसी ट्रेन किए गए मॉडल को चलाना। मेमोरी क्षमता, लेटेंसी और प्रति अनुरोध लागत आम चिंताएँ हैं।
- HPCवैज्ञानिक और इंजीनियरिंग सिमुलेशन, जहाँ संख्यात्मक प्रिसिज़न और मेमोरी बैंडविड्थ मायने रखते हैं।

आँकड़े Kovara मास्टर डेटा हैं, अंतिम सत्यापन 25 सित॰ 2026। व्याख्याएँ तकनीक का सामान्य वर्णन करती हैं; वे बेंचमार्क नहीं हैं और कीमत या उपलब्धता के बारे में कुछ नहीं कहतीं।

इस एक्सेलरेटर को Compute पर देखें

HBM2 स्टैक
GPU डाई
इंटरपोज़र
बोर्ड
पावर
इनपुट
आउटपुट
NVLink
पड़ोसी GPU
MIG सेक्टर

प्रतीकात्मक चित्र40 GB HBM2 मेमोरी

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में
प्रोवाइडर	रीजन	कॉन्फ़िगरेशन	उपलब्धता	कीमत	व्यावसायिक मॉडल	भरोसा / साक्ष्य	कार्रवाई
OFR-0792Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM4 GPU कॉन्फ़िगरेशन · प्रति नोड 4 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$0.69 USD / GPU-hourमूल: USD 2.76 instance-hour	CommittedGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0790Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM2 GPU कॉन्फ़िगरेशन · प्रति नोड 2 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$0.69 USD / GPU-hourमूल: USD 1.38 instance-hour	CommittedGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0314Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$0.69 USD / GPU-hourमूल: USD 0.69 instance-hour	CommittedGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0794Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$0.69 USD / GPU-hourमूल: USD 5.52 instance-hour	CommittedGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0559JarvisLabs	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM2 GPU कॉन्फ़िगरेशन · प्रति नोड 2 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$0.89 USD / GPU-hourमूल: USD 1.78 instance-hour	On-DemandGPU VM / template · Per minute	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000023	देखें
OFR-0560JarvisLabs	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM4 GPU कॉन्फ़िगरेशन · प्रति नोड 4 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$0.89 USD / GPU-hourमूल: USD 3.56 instance-hour	On-DemandGPU VM / template · Per minute	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000023	देखें
OFR-0561JarvisLabs	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$0.89 USD / GPU-hourमूल: USD 7.12 instance-hour	On-DemandGPU VM / template · Per minute	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000023	देखें
OFR-0558JarvisLabs	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Unconfirmedपुष्ट क्षमता: पुष्टि नहीं हुई	$0.89 USD / GPU-hourमूल: USD 0.89 instance-hour	On-DemandGPU VM / template · Per minute	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000023	देखें
OFR-0795Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$1.09 USD / GPU-hourमूल: USD 8.72 instance-hour	On-DemandGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0315Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$1.09 USD / GPU-hourमूल: USD 1.09 instance-hour	On-DemandGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0791Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM2 GPU कॉन्फ़िगरेशन · प्रति नोड 2 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$1.09 USD / GPU-hourमूल: USD 2.18 instance-hour	On-DemandGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0793Civo	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM4 GPU कॉन्फ़िगरेशन · प्रति नोड 4 GPU	In stockपुष्ट क्षमता: पुष्टि नहीं हुई	$1.09 USD / GPU-hourमूल: USD 4.36 instance-hour	On-DemandGPU compute · Hourly	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058	देखें
OFR-0324E2E Networks	Unspecified, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXMकॉन्फ़िगरेशन मात्रा निर्दिष्ट नहीं	Self-serveपुष्ट क्षमता: पुष्टि नहीं हुई	$1.98 USD / GPU-hourमूल: USD 1.98 GPU/hour	On-DemandGPU instance · Per-minute billing	कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000040	देखें
OFR-0737Paperspace	Region dependent, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM1 GPU कॉन्फ़िगरेशन · प्रति नोड 1 GPU	Publicly priced; regional capacity variesपुष्ट क्षमता: पुष्टि नहीं हुई	$3.09 USD / GPU-hourमूल: USD 3.09 instance-hour	On-DemandDedicated GPU instance · Hourly while powered on	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000021	देखें
OFR-0738Paperspace	Region dependent, Multiple / Unspecified	NVIDIA A100 40GB — provider does not specify PCIe/SXM8 GPU कॉन्फ़िगरेशन · प्रति नोड 8 GPU	Publicly priced; regional capacity variesपुष्ट क्षमता: पुष्टि नहीं हुई	$3.09 USD / GPU-hourमूल: USD 24.72 instance-hour	On-DemandDedicated GPU instance · Hourly while powered on	कॉन्फ़िडेंस A16 दिन पहले जाँचा गया23 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000021	देखें

मौजूदा सार्वजनिक कंप्यूट ऑफ़रिंग, मौजूदा कीमत क्रम में

प्रोवाइडर

रीजन

कॉन्फ़िगरेशन

उपलब्धता

कीमत

व्यावसायिक मॉडल

भरोसा / साक्ष्य

कार्रवाई

OFR-0792Civo

Unspecified, Multiple / Unspecified

NVIDIA A100 40GB — provider does not specify PCIe/SXM4 GPU कॉन्फ़िगरेशन · प्रति नोड 4 GPU

In stockपुष्ट क्षमता: पुष्टि नहीं हुई

$0.69 USD / GPU-hourमूल: USD 2.76 instance-hour

CommittedGPU compute · Hourly

कॉन्फ़िडेंस A11 दिन पहले जाँचा गया29 सित॰ 2026 को पुष्टि की गईस्रोत: SRC000058

मुख्य हार्डवेयर

लाइफ़साइकल / उपयोग

AI training, inference और HPC के लिए इस्तेमाल होता है

0140 GB HBM2 मेमोरी

02Ampere आर्किटेक्चर

03कई GPU में स्केल करने के लिए बना

04इसका उपयोग किसलिए होता है

कंप्यूट

मेमोरी

प्लेटफ़ॉर्म

लाइफ़साइकल / उपयोग