AMD Instinct MI300X 192GB vs NVIDIA GH200 96GB HBM3
Instinct MI300X 192GB 的内存比 GH200 96GB HBM3 多 100%(192 GB 对比 96 GB)。 其内存带宽高 32%(5.3 对比 4 TB/s)。 在云端,Instinct MI300X 192GB 的按需价格中位数为每 GPU-hour $2.99,GH200 96GB HBM3 则为 $5.19。 按每 GB GPU 内存计算,即每小时 $0.016 对比 $0.054。
Instinct MI300X 192GB 起价$2.59on-demand · 8 个产品 · 3 家服务商
GH200 96GB HBM3 起价$2.29on-demand · 5 个产品 · 3 家服务商
Instinct MI300X 192GB 内存192 GBHBM3
GH200 96GB HBM3 内存96 GBHBM3
规格
Kovara 记录的厂商数据。内存和带宽较高的一方会突出显示;两者都不代表您工作负载的基准测试结果。
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| 厂商 | AMD | NVIDIA |
| 架构 | CDNA 3 | Hopper + Grace |
| 内存 | 192 GB HBM3 | 96 GB HBM3 |
| 内存带宽 | 5.3 TB/s | 4 TB/s |
| 功耗(TDP) | 750 W | 900 W |
| 外形规格 | OAM Module | Grace Hopper Superchip |
当前云价格
Kovara 跟踪的公开产品,统一换算为每 GPU-hour 美元价格。有按需条款时采用按需价格;竞价和预留产品见各 GPU 的价格页面。较低者突出显示。
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| 最低价格 | $2.59 | $2.29 |
| 价格中位数 | $2.99 | $5.19 |
| 最高价格 | $3.45 | $6.50 |
| 每 GB 内存的中位数价格 | $0.016 | $0.054 |
| 公开产品(所有条款) | 8 | 5 |
| 服务商 | 3 | 3 |
各自的租用渠道
每家服务商的最低跟踪价格。打开服务商可查看所有产品、区域和条款。
常见问题
Instinct MI300X 192GB 和 GH200 96GB HBM3,哪个租起来更便宜?
目前 Kovara 跟踪到最便宜的按需 Instinct MI300X 192GB 为每 GPU-hour $2.59,最便宜的 GH200 96GB HBM3 为 $2.29。中位数分别为 $2.99 和 $5.19。每小时更便宜的 GPU,按单次任务算未必更便宜:更快或更大的 GPU 可能更早完成,或者所需数量更少。
哪款内存更大?
Instinct MI300X 192GB 的内存更大:192 GB 对比 96 GB。内存决定了单个 GPU 能容纳哪些模型和批大小。
这些是基准测试结果吗?
不是。本页比较的是厂商规格和公开价格。实际性能取决于模型、精度、软件和互连。Kova 可以帮助您估算特定工作负载的成本。
