NVIDIA GH200 96GB HBM3 vs NVIDIA RTX A5000 24GB
GH200 96GB HBM3 में RTX A5000 24GB से 300% अधिक मेमोरी है (96 GB बनाम 24 GB)। इसकी मेमोरी बैंडविड्थ 421% अधिक है (4 बनाम 0.768 TB/s)। क्लाउड में GH200 96GB HBM3 की मीडियन ऑन-डिमांड कीमत प्रति GPU-hour $5.19 है, जबकि RTX A5000 24GB की $0.44 है। GPU मेमोरी के प्रति गीगाबाइट के हिसाब से यह प्रति घंटा $0.054 बनाम $0.018 है।
स्पेसिफ़िकेशन
निर्माता के आँकड़े, जैसे Kovara ने दर्ज किए हैं। अधिक मेमोरी और बैंडविड्थ हाइलाइट की गई है; इनमें से कोई भी आपके वर्कलोड का बेंचमार्क नहीं है।
| GH200 96GB HBM3 | RTX A5000 24GB | |
|---|---|---|
| निर्माता | NVIDIA | NVIDIA |
| आर्किटेक्चर | Hopper + Grace | Ampere |
| मेमोरी | 96 GB HBM3 | 24 GB GDDR6 |
| मेमोरी बैंडविड्थ | 4 TB/s | 0.768 TB/s |
| पावर (TDP) | 900 W | 230 W |
| फ़ॉर्म फ़ैक्टर | Grace Hopper Superchip | PCIe dual-slot |
आज की क्लाउड कीमतें
Kovara द्वारा ट्रैक किए गए सार्वजनिक ऑफ़र, प्रति GPU-hour अमेरिकी डॉलर में सामान्यीकृत। जहाँ उपलब्ध हों, कीमतें ऑन-डिमांड शर्तों पर हैं; स्पॉट और रिज़र्व्ड ऑफ़र हर GPU के कीमत पेजों पर हैं। कम कीमत हाइलाइट की गई है।
| GH200 96GB HBM3 | RTX A5000 24GB | |
|---|---|---|
| सबसे कम कीमत | $2.29 | $0.27 |
| मीडियन कीमत | $5.19 | $0.44 |
| सबसे अधिक कीमत | $6.50 | $1.38 |
| प्रति GB मेमोरी मीडियन | $0.054 | $0.018 |
| सार्वजनिक ऑफ़र (सभी अवधियाँ) | 5 | 9 |
| प्रोवाइडर | 3 | 3 |
हर एक को कहाँ किराए पर लें
हर प्रोवाइडर की सबसे कम ट्रैक की गई कीमत। हर ऑफ़र, रीजन और अवधि देखने के लिए कोई प्रोवाइडर खोलें।
प्रश्न
किराए पर लेने में कौन सस्ता है, GH200 96GB HBM3 या RTX A5000 24GB?
अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड GH200 96GB HBM3 प्रति GPU-hour $2.29 है और सबसे सस्ता RTX A5000 24GB $0.27 है। मीडियन $5.19 और $0.44 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।
किसमें अधिक मेमोरी है?
GH200 96GB HBM3 में अधिक मेमोरी है: 96 GB बनाम 24 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।
क्या ये बेंचमार्क नतीजे हैं?
नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।