NVIDIA H100 PCIe 80GB vs NVIDIA RTX A4000 16GB
H100 PCIe 80GBのメモリ容量はRTX A4000 16GBより400%多くなっています（80 GB 対 16 GB）。 メモリ帯域幅は346%高くなっています（2 対 0.448 TB/s）。 クラウドでは、H100 PCIe 80GBのオンデマンド価格の中央値はGPU-hourあたり$3.04で、RTX A4000 16GBは$0.76です。 GPUメモリのギガバイトあたりでは、時間あたり$0.038対$0.048です。
仕様
Kovaraが記録したメーカー公表値です。メモリと帯域幅が大きい方を強調表示していますが、いずれもお客様のワークロードのベンチマークではありません。
| H100 PCIe 80GB | RTX A4000 16GB | |
|---|---|---|
| メーカー | NVIDIA | NVIDIA |
| アーキテクチャ | Hopper | Ampere |
| メモリ | 80 GB HBM2E | 16 GB GDDR6 |
| メモリ帯域幅 | 2 TB/s | 0.448 TB/s |
| 電力（TDP） | 350 W | 140 W |
| フォームファクター | PCIe dual-slot | PCIe single-slot |
現在のクラウド価格
Kovaraが追跡する公開オファーを、GPU-hourあたりの米ドルに正規化しています。価格は可能な場合はオンデマンド条件を使用しています。スポットや予約のオファーは各GPUの価格ページに掲載しています。安い方を強調表示しています。
| H100 PCIe 80GB | RTX A4000 16GB | |
|---|---|---|
| 最低価格 | $2.49 | $0.15 |
| 価格の中央値 | $3.04 | $0.76 |
| 最高価格 | $3.29 | $0.76 |
| メモリGBあたりの中央値 | $0.038 | $0.048 |
| 公開オファー（すべての条件） | 6 | 6 |
| プロバイダー | 5 | 3 |
それぞれのレンタル先
プロバイダーごとの追跡最低価格です。プロバイダーを開くと、すべてのオファー、リージョン、条件を確認できます。
よくある質問
H100 PCIe 80GBとRTX A4000 16GB、レンタルが安いのはどちらですか？
現在Kovaraが追跡している最安のオンデマンド価格は、H100 PCIe 80GBがGPU-hourあたり$2.49、RTX A4000 16GBが$0.15です。中央値は$3.04と$0.76です。時間あたりで安いGPUが、ジョブ単位でも安いとは限りません。より高速または大容量のGPUなら、早く終わったり、必要な台数が少なくて済んだりすることがあります。
メモリが多いのはどちらですか？
H100 PCIe 80GBの方がメモリが多く、80 GBに対して16 GBです。どのモデルやバッチサイズが一基のGPUに収まるかは、メモリで決まります。
これはベンチマーク結果ですか？
いいえ。このページでは、メーカーの仕様と公開価格を比較しています。実際の性能は、モデル、精度、ソフトウェア、インターコネクトによって異なります。特定のワークロードのコスト見積もりは、Kovaがお手伝いします。