NVIDIA GH200 96GB HBM3 vs NVIDIA L40 48GB
GH200 96GB HBM3 har 100 % mer minne enn L40 48GB (96 GB vs 48 GB). Minnebåndbredden er 363 % høyere (4 vs 0.864 TB/s). I skyen er medianprisen on-demand for GH200 96GB HBM3 $5.19 per GPU-hour, mot $0.86 for L40 48GB. Per gigabyte GPU-minne blir det $0.054 vs $0.018 per time.
Spesifikasjoner
Produsentens tall slik Kovara har registrert dem. Høyere minne og båndbredde er uthevet; ingen av dem er en benchmark av din arbeidslast.
| GH200 96GB HBM3 | L40 48GB | |
|---|---|---|
| Produsent | NVIDIA | NVIDIA |
| Arkitektur | Hopper + Grace | Ada Lovelace |
| Minne | 96 GB HBM3 | 48 GB GDDR6 |
| Minnebåndbredde | 4 TB/s | 0.864 TB/s |
| Effekt (TDP) | 900 W | 300 W |
| Formfaktor | Grace Hopper Superchip | PCIe dual-slot FHFL |
Skypriser i dag
Offentlige tilbud Kovara følger, normalisert til amerikanske dollar per GPU-hour. Prisene bruker on-demand-vilkår der de finnes; spot- og reserverte tilbud ligger på prissidene for hver GPU. Lavest er uthevet.
| GH200 96GB HBM3 | L40 48GB | |
|---|---|---|
| Laveste pris | $2.29 | $0.79 |
| Medianpris | $5.19 | $0.86 |
| Høyeste pris | $6.50 | $1.25 |
| Median per GB minne | $0.054 | $0.018 |
| Offentlige tilbud (alle vilkår) | 5 | 13 |
| Leverandører | 3 | 5 |
Hvor du kan leie hver av dem
Laveste sporede pris per leverandør. Åpne en leverandør for å se alle tilbud, regioner og vilkår.
Spørsmål
Hvilken er billigst å leie, GH200 96GB HBM3 eller L40 48GB?
Akkurat nå er den billigste GH200 96GB HBM3 on-demand som Kovara følger, $2.29 per GPU-hour, og den billigste L40 48GB er $0.79. Medianene er $5.19 og $0.86. Den billigste GPU-en per time er ikke alltid billigst per jobb: en raskere eller større GPU kan bli ferdig tidligere eller trenge færre enheter.
Hvilken har mest minne?
GH200 96GB HBM3 har mest minne: 96 GB mot 48 GB. Minnet avgjør hvilke modeller og batchstørrelser som får plass på én GPU.
Er dette benchmarkresultater?
Nei. Denne siden sammenligner produsentens spesifikasjoner og offentlige priser. Reell ytelse avhenger av modell, presisjon, programvare og sammenkobling. Kova kan hjelpe deg med å anslå kostnaden for en bestemt arbeidslast.