NVIDIA H100 NVL 94GB vs NVIDIA L4 24GB
H100 NVL 94GB har 292 % mere hukommelse end L4 24GB (94 GB vs. 24 GB). Hukommelsesbåndbredden er 1200 % højere (3.9 vs. 0.3 TB/s). I skyen er medianprisen on-demand for H100 NVL 94GB $8.66 pr. GPU-hour mod $0.44 for L4 24GB. Pr. gigabyte GPU-hukommelse svarer det til $0.092 vs. $0.018 pr. time.
Specifikationer
Producentens tal, som Kovara har registreret dem. Højere hukommelse og båndbredde er fremhævet; ingen af delene er en benchmark af din workload.
| H100 NVL 94GB | L4 24GB | |
|---|---|---|
| Producent | NVIDIA | NVIDIA |
| Arkitektur | Hopper | Ada Lovelace |
| Hukommelse | 94 GB HBM3 | 24 GB GDDR6 |
| Hukommelsesbåndbredde | 3.9 TB/s | 0.3 TB/s |
| Effekt (TDP) | 400 W | 72 W |
| Formfaktor | PCIe | PCIe low-profile single-slot |
Cloudpriser i dag
Offentlige tilbud, som Kovara følger, normaliseret til amerikanske dollar pr. GPU-hour. Priserne bruger on-demand-vilkår, hvor de findes; spot- og reserverede tilbud står på hver GPU’s prissider. Den laveste er fremhævet.
| H100 NVL 94GB | L4 24GB | |
|---|---|---|
| Laveste pris | $2.92 | $0.44 |
| Medianpris | $8.66 | $0.44 |
| Højeste pris | $10.12 | $0.57 |
| Median pr. GB hukommelse | $0.092 | $0.018 |
| Offentlige tilbud (alle vilkår) | 60 | 7 |
| Udbydere | 3 | 3 |
Hvor de kan lejes
Laveste registrerede pris pr. udbyder. Åbn en udbyder for at se alle tilbud, regioner og vilkår.
Spørgsmål
Hvad er billigst at leje, H100 NVL 94GB eller L4 24GB?
Lige nu er den billigste H100 NVL 94GB on-demand, som Kovara følger, $2.92 pr. GPU-hour, og den billigste L4 24GB er $0.44. Medianerne er $8.66 og $0.44. Den billigste GPU pr. time er ikke altid billigst pr. job: En hurtigere eller større GPU kan blive færdig før eller kræve færre enheder.
Hvilken har mest hukommelse?
H100 NVL 94GB har mest hukommelse: 94 GB mod 24 GB. Hukommelsen afgør, hvilke modeller og batchstørrelser der kan være på én GPU.
Er det benchmarkresultater?
Nej. Denne side sammenligner producentens specifikationer og offentlige priser. Den reelle ydeevne afhænger af model, præcision, software og interconnect. Kova kan hjælpe dig med at estimere omkostningerne for en bestemt workload.