NVIDIA A100 40GB SXM vs NVIDIA H200 SXM
A100 40GB SXM har 72 % mindre minne enn H200 SXM (40 GB vs 141 GB). Minnebåndbredden er 68 % lavere (1.555 vs 4.8 TB/s). I skyen er medianprisen on-demand for A100 40GB SXM $1.64 per GPU-hour, mot $4.47 for H200 SXM. Per gigabyte GPU-minne blir det $0.041 vs $0.032 per time.
Spesifikasjoner
Produsentens tall slik Kovara har registrert dem. Høyere minne og båndbredde er uthevet; ingen av dem er en benchmark av din arbeidslast.
| A100 40GB SXM | H200 SXM | |
|---|---|---|
| Produsent | NVIDIA | NVIDIA |
| Arkitektur | Ampere | Hopper |
| Minne | 40 GB HBM2 | 141 GB HBM3E |
| Minnebåndbredde | 1.555 TB/s | 4.8 TB/s |
| Effekt (TDP) | 400 W | 700 W |
| Formfaktor | SXM | SXM |
Skypriser i dag
Offentlige tilbud Kovara følger, normalisert til amerikanske dollar per GPU-hour. Prisene bruker on-demand-vilkår der de finnes; spot- og reserverte tilbud ligger på prissidene for hver GPU. Lavest er uthevet.
| A100 40GB SXM | H200 SXM | |
|---|---|---|
| Laveste pris | $1.15 | $2.60 |
| Medianpris | $1.64 | $4.47 |
| Høyeste pris | $1.99 | $10.60 |
| Median per GB minne | $0.041 | $0.032 |
| Offentlige tilbud (alle vilkår) | 5 | 41 |
| Leverandører | 3 | 14 |
Hvor du kan leie hver av dem
Laveste sporede pris per leverandør. Åpne en leverandør for å se alle tilbud, regioner og vilkår.
Spørsmål
Hvilken er billigst å leie, A100 40GB SXM eller H200 SXM?
Akkurat nå er den billigste A100 40GB SXM on-demand som Kovara følger, $1.15 per GPU-hour, og den billigste H200 SXM er $2.60. Medianene er $1.64 og $4.47. Den billigste GPU-en per time er ikke alltid billigst per jobb: en raskere eller større GPU kan bli ferdig tidligere eller trenge færre enheter.
Hvilken har mest minne?
H200 SXM har mest minne: 141 GB mot 40 GB. Minnet avgjør hvilke modeller og batchstørrelser som får plass på én GPU.
Er dette benchmarkresultater?
Nei. Denne siden sammenligner produsentens spesifikasjoner og offentlige priser. Reell ytelse avhenger av modell, presisjon, programvare og sammenkobling. Kova kan hjelpe deg med å anslå kostnaden for en bestemt arbeidslast.