NVIDIA A100 80GB SXM vs NVIDIA H200 SXM
A100 80GB SXM har 43 % mindre hukommelse end H200 SXM (80 GB vs. 141 GB). Hukommelsesbåndbredden er 58 % lavere (2.039 vs. 4.8 TB/s). I skyen er medianprisen on-demand for A100 80GB SXM $1.69 pr. GPU-hour mod $4.47 for H200 SXM. Pr. gigabyte GPU-hukommelse svarer det til $0.021 vs. $0.032 pr. time.
Specifikationer
Producentens tal, som Kovara har registreret dem. Højere hukommelse og båndbredde er fremhævet; ingen af delene er en benchmark af din workload.
| A100 80GB SXM | H200 SXM | |
|---|---|---|
| Producent | NVIDIA | NVIDIA |
| Arkitektur | Ampere | Hopper |
| Hukommelse | 80 GB HBM2E | 141 GB HBM3E |
| Hukommelsesbåndbredde | 2.039 TB/s | 4.8 TB/s |
| Effekt (TDP) | 400 W | 700 W |
| Formfaktor | SXM | SXM |
Cloudpriser i dag
Offentlige tilbud, som Kovara følger, normaliseret til amerikanske dollar pr. GPU-hour. Priserne bruger on-demand-vilkår, hvor de findes; spot- og reserverede tilbud står på hver GPU’s prissider. Den laveste er fremhævet.
| A100 80GB SXM | H200 SXM | |
|---|---|---|
| Laveste pris | $1.38 | $2.60 |
| Medianpris | $1.69 | $4.47 |
| Højeste pris | $3.18 | $10.60 |
| Median pr. GB hukommelse | $0.021 | $0.032 |
| Offentlige tilbud (alle vilkår) | 20 | 41 |
| Udbydere | 9 | 14 |
Hvor de kan lejes
Laveste registrerede pris pr. udbyder. Åbn en udbyder for at se alle tilbud, regioner og vilkår.
Spørgsmål
Hvad er billigst at leje, A100 80GB SXM eller H200 SXM?
Lige nu er den billigste A100 80GB SXM on-demand, som Kovara følger, $1.38 pr. GPU-hour, og den billigste H200 SXM er $2.60. Medianerne er $1.69 og $4.47. Den billigste GPU pr. time er ikke altid billigst pr. job: En hurtigere eller større GPU kan blive færdig før eller kræve færre enheder.
Hvilken har mest hukommelse?
H200 SXM har mest hukommelse: 141 GB mod 80 GB. Hukommelsen afgør, hvilke modeller og batchstørrelser der kan være på én GPU.
Er det benchmarkresultater?
Nej. Denne side sammenligner producentens specifikationer og offentlige priser. Den reelle ydeevne afhænger af model, præcision, software og interconnect. Kova kan hjælpe dig med at estimere omkostningerne for en bestemt workload.