NVIDIA GeForce RTX 3090 Founders / reference vs NVIDIA GH200 96GB HBM3

अभी Kovara द्वारा ट्रैक किया गया सबसे सस्ता ऑन-डिमांड GeForce RTX 3090 Founders / reference प्रति GPU-hour $0.090 है और सबसे सस्ता GH200 96GB HBM3 $2.29 है। मीडियन $0.16 और $5.19 हैं। प्रति घंटे सस्ता GPU हमेशा प्रति जॉब सस्ता नहीं होता: तेज़ या बड़ा GPU जल्दी काम पूरा कर सकता है या उसकी कम यूनिट लग सकती हैं।

GH200 96GB HBM3 में अधिक मेमोरी है: 96 GB बनाम 24 GB। मेमोरी से तय होता है कि कौन-से मॉडल और बैच साइज़ एक GPU पर फ़िट होंगे।

नहीं। यह पेज निर्माता के स्पेसिफ़िकेशन और सार्वजनिक कीमतों की तुलना करता है। वास्तविक परफ़ॉर्मेंस मॉडल, प्रिसिज़न, सॉफ़्टवेयर और इंटरकनेक्ट पर निर्भर करती है। Kova किसी ख़ास वर्कलोड की लागत का अनुमान लगाने में आपकी मदद कर सकता है।