NVIDIA A100 40GB SXM vs NVIDIA H100 NVL 94GB
A100 40GB SXM में H100 NVL 94GB से 57% कम मेमोरी है (40 GB बनाम 94 GB)। इसकी मेमोरी बैंडविड्थ 60% कम है (1.555 बनाम 3.9 TB/s)। क्लाउड में A100 40GB SXM की मीडियन ऑन-डिमांड कीमत प्रति GPU-hour $1.64 है, जबकि H100 NVL 94GB की $8.66 है। GPU मेमोरी के प्रति गीगाबाइट के हिसाब से यह प्रति घंटा $0.041 बनाम $0.092 है।
स्पेसिफ़िकेशन
निर्माता के आँकड़े, जैसे Kovara ने दर्ज किए हैं। अधिक मेमोरी और बैंडविड्थ हाइलाइट की गई है; इनमें से कोई भी आपके वर्कलोड का बेंचमार्क नहीं है।
| A100 40GB SXM | H100 NVL 94GB | |
|---|---|---|
| निर्माता | NVIDIA | NVIDIA |
| आर्किटेक्चर | Ampere | Hopper |
| मेमोरी | 40 GB HBM2 | 94 GB HBM3 |
| मेमोरी बैंडविड्थ | 1.555 TB/s | 3.9 TB/s |
| पावर (TDP) | 400 W | 400 W |
| फ़ॉर्म फ़ैक्टर | SXM | PCIe |
आज की क्लाउड कीमतें
Kovara द्वारा ट्रैक किए गए सार्वजनिक ऑफ़र, प्रति GPU-hour अमेरिकी डॉलर में सामान्यीकृत। जहाँ उपलब्ध हों, कीमतें ऑन-डिमांड शर्तों पर हैं; स्पॉट और रिज़र्व्ड ऑफ़र हर GPU के कीमत पेजों पर हैं। कम कीमत हाइलाइट की गई है।
| A100 40GB SXM | H100 NVL 94GB | |
|---|---|---|
| सबसे कम कीमत | $1.15 | $2.92 |
| मीडियन कीमत | $1.64 | $8.66 |
| सबसे अधिक कीमत | $1.99 | $10.12 |
| प्रति GB मेमोरी मीडियन | $0.041 | $0.092 |
| सार्वजनिक ऑफ़र (सभी अवधियाँ) | 5 | 60 |
| प्रोवाइडर | 3 | 3 |
हर एक को कहाँ किराए पर लें
हर प्रोवाइडर की सबसे कम ट्रैक की गई कीमत। हर ऑफ़र, रीजन और अवधि देखने के लिए कोई प्रोवाइडर खोलें।
प्रश्न
किराए पर लेने में कौन सस्ता है, A100 40GB SXM या H100 NVL 94GB?
अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड A100 40GB SXM प्रति GPU-hour $1.15 है और सबसे सस्ता H100 NVL 94GB $2.92 है। मीडियन $1.64 और $8.66 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।
किसमें अधिक मेमोरी है?
H100 NVL 94GB में अधिक मेमोरी है: 94 GB बनाम 40 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।
क्या ये बेंचमार्क नतीजे हैं?
नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।