NVIDIA A100 40GB SXM vs NVIDIA GH200 96GB HBM3
A100 40GB SXM में GH200 96GB HBM3 से 58% कम मेमोरी है (40 GB बनाम 96 GB)। इसकी मेमोरी बैंडविड्थ 61% कम है (1.555 बनाम 4 TB/s)। क्लाउड में A100 40GB SXM की मीडियन ऑन-डिमांड कीमत प्रति GPU-hour $1.64 है, जबकि GH200 96GB HBM3 की $5.19 है। GPU मेमोरी के प्रति गीगाबाइट के हिसाब से यह प्रति घंटा $0.041 बनाम $0.054 है।
स्पेसिफ़िकेशन
निर्माता के आँकड़े, जैसे Kovara ने दर्ज किए हैं। अधिक मेमोरी और बैंडविड्थ हाइलाइट की गई है; इनमें से कोई भी आपके वर्कलोड का बेंचमार्क नहीं है।
| A100 40GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| निर्माता | NVIDIA | NVIDIA |
| आर्किटेक्चर | Ampere | Hopper + Grace |
| मेमोरी | 40 GB HBM2 | 96 GB HBM3 |
| मेमोरी बैंडविड्थ | 1.555 TB/s | 4 TB/s |
| पावर (TDP) | 400 W | 900 W |
| फ़ॉर्म फ़ैक्टर | SXM | Grace Hopper Superchip |
आज की क्लाउड कीमतें
Kovara द्वारा ट्रैक किए गए सार्वजनिक ऑफ़र, प्रति GPU-hour अमेरिकी डॉलर में सामान्यीकृत। जहाँ उपलब्ध हों, कीमतें ऑन-डिमांड शर्तों पर हैं; स्पॉट और रिज़र्व्ड ऑफ़र हर GPU के कीमत पेजों पर हैं। कम कीमत हाइलाइट की गई है।
| A100 40GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| सबसे कम कीमत | $1.15 | $2.29 |
| मीडियन कीमत | $1.64 | $5.19 |
| सबसे अधिक कीमत | $1.99 | $6.50 |
| प्रति GB मेमोरी मीडियन | $0.041 | $0.054 |
| सार्वजनिक ऑफ़र (सभी अवधियाँ) | 5 | 5 |
| प्रोवाइडर | 3 | 3 |
हर एक को कहाँ किराए पर लें
हर प्रोवाइडर की सबसे कम ट्रैक की गई कीमत। हर ऑफ़र, रीजन और अवधि देखने के लिए कोई प्रोवाइडर खोलें।
प्रश्न
किराए पर लेने में कौन सस्ता है, A100 40GB SXM या GH200 96GB HBM3?
अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड A100 40GB SXM प्रति GPU-hour $1.15 है और सबसे सस्ता GH200 96GB HBM3 $2.29 है। मीडियन $1.64 और $5.19 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।
किसमें अधिक मेमोरी है?
GH200 96GB HBM3 में अधिक मेमोरी है: 96 GB बनाम 40 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।
क्या ये बेंचमार्क नतीजे हैं?
नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।