NVIDIA GH200 96GB HBM3 vs NVIDIA H200 SXM
GH200 96GB HBM3のメモリ容量はH200 SXMより32%少なくなっています（96 GB 対 141 GB）。 メモリ帯域幅は17%低くなっています（4 対 4.8 TB/s）。 クラウドでは、GH200 96GB HBM3のオンデマンド価格の中央値はGPU-hourあたり$5.19で、H200 SXMは$4.47です。 GPUメモリのギガバイトあたりでは、時間あたり$0.054対$0.032です。
仕様
Kovaraが記録したメーカー公表値です。メモリと帯域幅が大きい方を強調表示していますが、いずれもお客様のワークロードのベンチマークではありません。
| GH200 96GB HBM3 | H200 SXM | |
|---|---|---|
| メーカー | NVIDIA | NVIDIA |
| アーキテクチャ | Hopper + Grace | Hopper |
| メモリ | 96 GB HBM3 | 141 GB HBM3E |
| メモリ帯域幅 | 4 TB/s | 4.8 TB/s |
| 電力（TDP） | 900 W | 700 W |
| フォームファクター | Grace Hopper Superchip | SXM |
現在のクラウド価格
Kovaraが追跡する公開オファーを、GPU-hourあたりの米ドルに正規化しています。価格は可能な場合はオンデマンド条件を使用しています。スポットや予約のオファーは各GPUの価格ページに掲載しています。安い方を強調表示しています。
| GH200 96GB HBM3 | H200 SXM | |
|---|---|---|
| 最低価格 | $2.29 | $2.60 |
| 価格の中央値 | $5.19 | $4.47 |
| 最高価格 | $6.50 | $10.60 |
| メモリGBあたりの中央値 | $0.054 | $0.032 |
| 公開オファー（すべての条件） | 5 | 41 |
| プロバイダー | 3 | 14 |
それぞれのレンタル先
プロバイダーごとの追跡最低価格です。プロバイダーを開くと、すべてのオファー、リージョン、条件を確認できます。
よくある質問
GH200 96GB HBM3とH200 SXM、レンタルが安いのはどちらですか？
現在Kovaraが追跡している最安のオンデマンド価格は、GH200 96GB HBM3がGPU-hourあたり$2.29、H200 SXMが$2.60です。中央値は$5.19と$4.47です。時間あたりで安いGPUが、ジョブ単位でも安いとは限りません。より高速または大容量のGPUなら、早く終わったり、必要な台数が少なくて済んだりすることがあります。
メモリが多いのはどちらですか？
H200 SXMの方がメモリが多く、141 GBに対して96 GBです。どのモデルやバッチサイズが一基のGPUに収まるかは、メモリで決まります。
これはベンチマーク結果ですか？
いいえ。このページでは、メーカーの仕様と公開価格を比較しています。実際の性能は、モデル、精度、ソフトウェア、インターコネクトによって異なります。特定のワークロードのコスト見積もりは、Kovaがお手伝いします。