NVIDIA A100 40GB SXM vs NVIDIA GeForce RTX 4090 Founders / reference

अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड A100 40GB SXM प्रति GPU-hour $1.15 है और सबसे सस्ता GeForce RTX 4090 Founders / reference $0.16 है। मीडियन $1.64 और $0.33 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।

A100 40GB SXM में अधिक मेमोरी है: 40 GB बनाम 24 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।

नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।