AMD Instinct MI300X 192GB vs NVIDIA A100 80GB PCIe
Instinct MI300X 192GBのメモリ容量はA100 80GB PCIeより140%多くなっています（192 GB 対 80 GB）。 メモリ帯域幅は174%高くなっています（5.3 対 1.935 TB/s）。 クラウドでは、Instinct MI300X 192GBのオンデマンド価格の中央値はGPU-hourあたり$2.99で、A100 80GB PCIeは$4.78です。 GPUメモリのギガバイトあたりでは、時間あたり$0.016対$0.060です。
仕様
Kovaraが記録したメーカー公表値です。メモリと帯域幅が大きい方を強調表示していますが、いずれもお客様のワークロードのベンチマークではありません。
| Instinct MI300X 192GB | A100 80GB PCIe | |
|---|---|---|
| メーカー | AMD | NVIDIA |
| アーキテクチャ | CDNA 3 | Ampere |
| メモリ | 192 GB HBM3 | 80 GB HBM2E |
| メモリ帯域幅 | 5.3 TB/s | 1.935 TB/s |
| 電力（TDP） | 750 W | 300 W |
| フォームファクター | OAM Module | PCIe dual-slot |
現在のクラウド価格
Kovaraが追跡する公開オファーを、GPU-hourあたりの米ドルに正規化しています。価格は可能な場合はオンデマンド条件を使用しています。スポットや予約のオファーは各GPUの価格ページに掲載しています。安い方を強調表示しています。
| Instinct MI300X 192GB | A100 80GB PCIe | |
|---|---|---|
| 最低価格 | $2.59 | $1.59 |
| 価格の中央値 | $2.99 | $4.78 |
| 最高価格 | $3.45 | $7.35 |
| メモリGBあたりの中央値 | $0.016 | $0.060 |
| 公開オファー（すべての条件） | 8 | 81 |
| プロバイダー | 3 | 4 |
それぞれのレンタル先
プロバイダーごとの追跡最低価格です。プロバイダーを開くと、すべてのオファー、リージョン、条件を確認できます。
よくある質問
Instinct MI300X 192GBとA100 80GB PCIe、レンタルが安いのはどちらですか？
現在Kovaraが追跡している最安のオンデマンド価格は、Instinct MI300X 192GBがGPU-hourあたり$2.59、A100 80GB PCIeが$1.59です。中央値は$2.99と$4.78です。時間あたりで安いGPUが、ジョブ単位でも安いとは限りません。より高速または大容量のGPUなら、早く終わったり、必要な台数が少なくて済んだりすることがあります。
メモリが多いのはどちらですか？
Instinct MI300X 192GBの方がメモリが多く、192 GBに対して80 GBです。どのモデルやバッチサイズが一基のGPUに収まるかは、メモリで決まります。
これはベンチマーク結果ですか？
いいえ。このページでは、メーカーの仕様と公開価格を比較しています。実際の性能は、モデル、精度、ソフトウェア、インターコネクトによって異なります。特定のワークロードのコスト見積もりは、Kovaがお手伝いします。