AMD Instinct MI300X 192GB vs NVIDIA L40 48GB
Instinct MI300X 192GB में L40 48GB से 300% अधिक मेमोरी है (192 GB बनाम 48 GB)। इसकी मेमोरी बैंडविड्थ 513% अधिक है (5.3 बनाम 0.864 TB/s)। क्लाउड में Instinct MI300X 192GB की मीडियन ऑन-डिमांड कीमत प्रति GPU-hour $2.99 है, जबकि L40 48GB की $0.86 है। GPU मेमोरी के प्रति गीगाबाइट के हिसाब से यह प्रति घंटा $0.016 बनाम $0.018 है।
स्पेसिफ़िकेशन
निर्माता के आँकड़े, जैसे Kovara ने दर्ज किए हैं। अधिक मेमोरी और बैंडविड्थ हाइलाइट की गई है; इनमें से कोई भी आपके वर्कलोड का बेंचमार्क नहीं है।
| Instinct MI300X 192GB | L40 48GB | |
|---|---|---|
| निर्माता | AMD | NVIDIA |
| आर्किटेक्चर | CDNA 3 | Ada Lovelace |
| मेमोरी | 192 GB HBM3 | 48 GB GDDR6 |
| मेमोरी बैंडविड्थ | 5.3 TB/s | 0.864 TB/s |
| पावर (TDP) | 750 W | 300 W |
| फ़ॉर्म फ़ैक्टर | OAM Module | PCIe dual-slot FHFL |
आज की क्लाउड कीमतें
Kovara द्वारा ट्रैक किए गए सार्वजनिक ऑफ़र, प्रति GPU-hour अमेरिकी डॉलर में सामान्यीकृत। जहाँ उपलब्ध हों, कीमतें ऑन-डिमांड शर्तों पर हैं; स्पॉट और रिज़र्व्ड ऑफ़र हर GPU के कीमत पेजों पर हैं। कम कीमत हाइलाइट की गई है।
| Instinct MI300X 192GB | L40 48GB | |
|---|---|---|
| सबसे कम कीमत | $2.59 | $0.79 |
| मीडियन कीमत | $2.99 | $0.86 |
| सबसे अधिक कीमत | $3.45 | $1.25 |
| प्रति GB मेमोरी मीडियन | $0.016 | $0.018 |
| सार्वजनिक ऑफ़र (सभी अवधियाँ) | 8 | 13 |
| प्रोवाइडर | 3 | 5 |
हर एक को कहाँ किराए पर लें
हर प्रोवाइडर की सबसे कम ट्रैक की गई कीमत। हर ऑफ़र, रीजन और अवधि देखने के लिए कोई प्रोवाइडर खोलें।
प्रश्न
किराए पर लेने में कौन सस्ता है, Instinct MI300X 192GB या L40 48GB?
अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड Instinct MI300X 192GB प्रति GPU-hour $2.59 है और सबसे सस्ता L40 48GB $0.79 है। मीडियन $2.99 और $0.86 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।
किसमें अधिक मेमोरी है?
Instinct MI300X 192GB में अधिक मेमोरी है: 192 GB बनाम 48 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।
क्या ये बेंचमार्क नतीजे हैं?
नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।