NVIDIA A100 40GB SXM vs NVIDIA GeForce RTX 4090 Founders / reference
A100 40GB SXM 的内存比 GeForce RTX 4090 Founders / reference 多 67%（40 GB 对比 24 GB）。 其内存带宽高 54%（1.555 对比 1.008 TB/s）。 在云端，A100 40GB SXM 的按需价格中位数为每 GPU-hour $1.64，GeForce RTX 4090 Founders / reference 则为 $0.33。 按每 GB GPU 内存计算，即每小时 $0.041 对比 $0.014。
A100 40GB SXM 起价$1.15on-demand · 5 个产品 · 3 家服务商
GeForce RTX 4090 Founders / reference 起价$0.16on-demand · 9 个产品 · 4 家服务商
A100 40GB SXM 内存40 GBHBM2
GeForce RTX 4090 Founders / reference 内存24 GBGDDR6X
规格
Kovara 记录的厂商数据。内存和带宽较高的一方会突出显示；两者都不代表您工作负载的基准测试结果。
| A100 40GB SXM | GeForce RTX 4090 Founders / reference | |
|---|---|---|
| 厂商 | NVIDIA | NVIDIA |
| 架构 | Ampere | Ada Lovelace |
| 内存 | 40 GB HBM2 | 24 GB GDDR6X |
| 内存带宽 | 1.555 TB/s | 1.008 TB/s |
| 功耗（TDP） | 400 W | 450 W |
| 外形规格 | SXM | PCIe consumer |
当前云价格
Kovara 跟踪的公开产品，统一换算为每 GPU-hour 美元价格。有按需条款时采用按需价格；竞价和预留产品见各 GPU 的价格页面。较低者突出显示。
| A100 40GB SXM | GeForce RTX 4090 Founders / reference | |
|---|---|---|
| 最低价格 | $1.15 | $0.16 |
| 价格中位数 | $1.64 | $0.33 |
| 最高价格 | $1.99 | $0.74 |
| 每 GB 内存的中位数价格 | $0.041 | $0.014 |
| 公开产品（所有条款） | 5 | 9 |
| 服务商 | 3 | 4 |
各自的租用渠道
每家服务商的最低跟踪价格。打开服务商可查看所有产品、区域和条款。
GeForce RTX 4090 Founders / reference
常见问题
A100 40GB SXM 和 GeForce RTX 4090 Founders / reference，哪个租起来更便宜？
目前 Kovara 跟踪到最便宜的按需 A100 40GB SXM 为每 GPU-hour $1.15，最便宜的 GeForce RTX 4090 Founders / reference 为 $0.16。中位数分别为 $1.64 和 $0.33。每小时更便宜的 GPU，按单次任务算未必更便宜：更快或更大的 GPU 可能更早完成，或者所需数量更少。
哪款内存更大？
A100 40GB SXM 的内存更大：40 GB 对比 24 GB。内存决定了单个 GPU 能容纳哪些模型和批大小。
这些是基准测试结果吗？
不是。本页比较的是厂商规格和公开价格。实际性能取决于模型、精度、软件和互连。Kova 可以帮助您估算特定工作负载的成本。