NVIDIA H100 NVL 94GB vs NVIDIA L40 48GB
H100 NVL 94GB har 96% mer minne än L40 48GB (94 GB mot 48 GB). Minnesbandbredden är 351% högre (3.9 mot 0.864 TB/s). I molnet är medianpriset on-demand för H100 NVL 94GB $8.66 per GPU-hour, mot $0.86 för L40 48GB. Per gigabyte GPU-minne blir det $0.092 mot $0.018 per timme.
Specifikationer
Tillverkarens värden så som Kovara har registrerat dem. Mer minne och högre bandbredd markeras; inget av dem är en benchmark för din arbetslast.
| H100 NVL 94GB | L40 48GB | |
|---|---|---|
| Tillverkare | NVIDIA | NVIDIA |
| Arkitektur | Hopper | Ada Lovelace |
| Minne | 94 GB HBM3 | 48 GB GDDR6 |
| Minnesbandbredd | 3.9 TB/s | 0.864 TB/s |
| Effekt (TDP) | 400 W | 300 W |
| Formfaktor | PCIe | PCIe dual-slot FHFL |
Molnpriser i dag
Offentliga erbjudanden som Kovara följer, normaliserade till US-dollar per GPU-hour. Priserna avser villkor on-demand där sådana finns; spot- och reserverade erbjudanden finns på respektive GPU:s prissidor. Det lägre priset markeras.
| H100 NVL 94GB | L40 48GB | |
|---|---|---|
| Lägsta pris | $2.92 | $0.79 |
| Medianpris | $8.66 | $0.86 |
| Högsta pris | $10.12 | $1.25 |
| Median per GB minne | $0.092 | $0.018 |
| Offentliga erbjudanden (alla villkor) | 60 | 13 |
| Leverantörer | 3 | 5 |
Var du kan hyra dem
Lägsta spårade pris per leverantör. Öppna en leverantör för att se alla erbjudanden, regioner och villkor.
Frågor
Vilken är billigast att hyra, H100 NVL 94GB eller L40 48GB?
Just nu är den billigaste H100 NVL 94GB on-demand som Kovara följer $2.92 per GPU-hour och den billigaste L40 48GB $0.79. Medianerna är $8.66 och $0.86. Den GPU som är billigast per timme är inte alltid billigast per jobb: en snabbare eller större GPU kan bli klar tidigare eller kräva färre enheter.
Vilken har mest minne?
H100 NVL 94GB har mer minne: 94 GB mot 48 GB. Minnet avgör vilka modeller och batchstorlekar som ryms på en GPU.
Är det här benchmarkresultat?
Nej. Den här sidan jämför tillverkarens specifikationer och offentliga priser. Verklig prestanda beror på modell, precision, mjukvara och sammankoppling. Kova kan hjälpa dig att uppskatta kostnaden för en specifik arbetslast.