NVIDIA A100 40GB SXM vs NVIDIA RTX 6000 Ada 48GB

अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड A100 40GB SXM प्रति GPU-hour $1.15 है और सबसे सस्ता RTX 6000 Ada 48GB $0.79 है। मीडियन $1.64 और $0.79 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।

RTX 6000 Ada 48GB में अधिक मेमोरी है: 48 GB बनाम 40 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।

नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।