NVIDIA GH200 96GB HBM3 vs NVIDIA H100 PCIe 80GB
GH200 96GB HBM3 har 20 % mere hukommelse end H100 PCIe 80GB (96 GB vs. 80 GB). Hukommelsesbåndbredden er 100 % højere (4 vs. 2 TB/s). I skyen er medianprisen on-demand for GH200 96GB HBM3 $5.19 pr. GPU-hour mod $3.04 for H100 PCIe 80GB. Pr. gigabyte GPU-hukommelse svarer det til $0.054 vs. $0.038 pr. time.
Specifikationer
Producentens tal, som Kovara har registreret dem. Højere hukommelse og båndbredde er fremhævet; ingen af delene er en benchmark af din workload.
| GH200 96GB HBM3 | H100 PCIe 80GB | |
|---|---|---|
| Producent | NVIDIA | NVIDIA |
| Arkitektur | Hopper + Grace | Hopper |
| Hukommelse | 96 GB HBM3 | 80 GB HBM2E |
| Hukommelsesbåndbredde | 4 TB/s | 2 TB/s |
| Effekt (TDP) | 900 W | 350 W |
| Formfaktor | Grace Hopper Superchip | PCIe dual-slot |
Cloudpriser i dag
Offentlige tilbud, som Kovara følger, normaliseret til amerikanske dollar pr. GPU-hour. Priserne bruger on-demand-vilkår, hvor de findes; spot- og reserverede tilbud står på hver GPU’s prissider. Den laveste er fremhævet.
| GH200 96GB HBM3 | H100 PCIe 80GB | |
|---|---|---|
| Laveste pris | $2.29 | $2.49 |
| Medianpris | $5.19 | $3.04 |
| Højeste pris | $6.50 | $3.29 |
| Median pr. GB hukommelse | $0.054 | $0.038 |
| Offentlige tilbud (alle vilkår) | 5 | 6 |
| Udbydere | 3 | 5 |
Hvor de kan lejes
Laveste registrerede pris pr. udbyder. Åbn en udbyder for at se alle tilbud, regioner og vilkår.
Spørgsmål
Hvad er billigst at leje, GH200 96GB HBM3 eller H100 PCIe 80GB?
Lige nu er den billigste GH200 96GB HBM3 on-demand, som Kovara følger, $2.29 pr. GPU-hour, og den billigste H100 PCIe 80GB er $2.49. Medianerne er $5.19 og $3.04. Den billigste GPU pr. time er ikke altid billigst pr. job: En hurtigere eller større GPU kan blive færdig før eller kræve færre enheder.
Hvilken har mest hukommelse?
GH200 96GB HBM3 har mest hukommelse: 96 GB mod 80 GB. Hukommelsen afgør, hvilke modeller og batchstørrelser der kan være på én GPU.
Er det benchmarkresultater?
Nej. Denne side sammenligner producentens specifikationer og offentlige priser. Den reelle ydeevne afhænger af model, præcision, software og interconnect. Kova kan hjælpe dig med at estimere omkostningerne for en bestemt workload.