NVIDIA A100 40GB SXM vs NVIDIA A100 80GB PCIe

अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड A100 40GB SXM प्रति GPU-hour $1.15 है और सबसे सस्ता A100 80GB PCIe $1.59 है। मीडियन $1.64 और $4.78 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।

A100 80GB PCIe में अधिक मेमोरी है: 80 GB बनाम 40 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।

नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।