NVIDIA H100 SXM vs NVIDIA L40 48GB
H100 SXM में L40 48GB से 67% अधिक मेमोरी है (80 GB बनाम 48 GB)। इसकी मेमोरी बैंडविड्थ 288% अधिक है (3.35 बनाम 0.864 TB/s)। क्लाउड में H100 SXM की मीडियन ऑन-डिमांड कीमत प्रति GPU-hour $3.85 है, जबकि L40 48GB की $0.86 है। GPU मेमोरी के प्रति गीगाबाइट के हिसाब से यह प्रति घंटा $0.048 बनाम $0.018 है।
स्पेसिफ़िकेशन
निर्माता के आँकड़े, जैसे Kovara ने दर्ज किए हैं। अधिक मेमोरी और बैंडविड्थ हाइलाइट की गई है; इनमें से कोई भी आपके वर्कलोड का बेंचमार्क नहीं है।
| H100 SXM | L40 48GB | |
|---|---|---|
| निर्माता | NVIDIA | NVIDIA |
| आर्किटेक्चर | Hopper | Ada Lovelace |
| मेमोरी | 80 GB HBM3 | 48 GB GDDR6 |
| मेमोरी बैंडविड्थ | 3.35 TB/s | 0.864 TB/s |
| पावर (TDP) | 700 W | 300 W |
| फ़ॉर्म फ़ैक्टर | SXM | PCIe dual-slot FHFL |
आज की क्लाउड कीमतें
Kovara द्वारा ट्रैक किए गए सार्वजनिक ऑफ़र, प्रति GPU-hour अमेरिकी डॉलर में सामान्यीकृत। जहाँ उपलब्ध हों, कीमतें ऑन-डिमांड शर्तों पर हैं; स्पॉट और रिज़र्व्ड ऑफ़र हर GPU के कीमत पेजों पर हैं। कम कीमत हाइलाइट की गई है।
| H100 SXM | L40 48GB | |
|---|---|---|
| सबसे कम कीमत | $1.99 | $0.79 |
| मीडियन कीमत | $3.85 | $0.86 |
| सबसे अधिक कीमत | $12.29 | $1.25 |
| प्रति GB मेमोरी मीडियन | $0.048 | $0.018 |
| सार्वजनिक ऑफ़र (सभी अवधियाँ) | 59 | 13 |
| प्रोवाइडर | 21 | 5 |
हर एक को कहाँ किराए पर लें
हर प्रोवाइडर की सबसे कम ट्रैक की गई कीमत। हर ऑफ़र, रीजन और अवधि देखने के लिए कोई प्रोवाइडर खोलें।
प्रश्न
किराए पर लेने में कौन सस्ता है, H100 SXM या L40 48GB?
अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड H100 SXM प्रति GPU-hour $1.99 है और सबसे सस्ता L40 48GB $0.79 है। मीडियन $3.85 और $0.86 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।
किसमें अधिक मेमोरी है?
H100 SXM में अधिक मेमोरी है: 80 GB बनाम 48 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।
क्या ये बेंचमार्क नतीजे हैं?
नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।