NVIDIA H200 SXM vs NVIDIA L40 48GB
H200 SXMのメモリ容量はL40 48GBより194%多くなっています(141 GB 対 48 GB)。 メモリ帯域幅は456%高くなっています(4.8 対 0.864 TB/s)。 クラウドでは、H200 SXMのオンデマンド価格の中央値はGPU-hourあたり$4.47で、L40 48GBは$0.86です。 GPUメモリのギガバイトあたりでは、時間あたり$0.032対$0.018です。
仕様
Kovaraが記録したメーカー公表値です。メモリと帯域幅が大きい方を強調表示していますが、いずれもお客様のワークロードのベンチマークではありません。
| H200 SXM | L40 48GB | |
|---|---|---|
| メーカー | NVIDIA | NVIDIA |
| アーキテクチャ | Hopper | Ada Lovelace |
| メモリ | 141 GB HBM3E | 48 GB GDDR6 |
| メモリ帯域幅 | 4.8 TB/s | 0.864 TB/s |
| 電力(TDP) | 700 W | 300 W |
| フォームファクター | SXM | PCIe dual-slot FHFL |
現在のクラウド価格
Kovaraが追跡する公開オファーを、GPU-hourあたりの米ドルに正規化しています。価格は可能な場合はオンデマンド条件を使用しています。スポットや予約のオファーは各GPUの価格ページに掲載しています。安い方を強調表示しています。
| H200 SXM | L40 48GB | |
|---|---|---|
| 最低価格 | $2.60 | $0.79 |
| 価格の中央値 | $4.47 | $0.86 |
| 最高価格 | $10.60 | $1.25 |
| メモリGBあたりの中央値 | $0.032 | $0.018 |
| 公開オファー(すべての条件) | 41 | 13 |
| プロバイダー | 14 | 5 |
それぞれのレンタル先
プロバイダーごとの追跡最低価格です。プロバイダーを開くと、すべてのオファー、リージョン、条件を確認できます。
よくある質問
H200 SXMとL40 48GB、レンタルが安いのはどちらですか?
現在Kovaraが追跡している最安のオンデマンド価格は、H200 SXMがGPU-hourあたり$2.60、L40 48GBが$0.79です。中央値は$4.47と$0.86です。時間あたりで安いGPUが、ジョブ単位でも安いとは限りません。より高速または大容量のGPUなら、早く終わったり、必要な台数が少なくて済んだりすることがあります。
メモリが多いのはどちらですか?
H200 SXMの方がメモリが多く、141 GBに対して48 GBです。どのモデルやバッチサイズが一基のGPUに収まるかは、メモリで決まります。
これはベンチマーク結果ですか?
いいえ。このページでは、メーカーの仕様と公開価格を比較しています。実際の性能は、モデル、精度、ソフトウェア、インターコネクトによって異なります。特定のワークロードのコスト見積もりは、Kovaがお手伝いします。
