NVIDIA A100 40GB SXM vs NVIDIA H200 SXM
A100 40GB SXM heeft 72% minder geheugen dan H200 SXM (40 GB vs. 141 GB). De geheugenbandbreedte is 68% lager (1.555 vs. 4.8 TB/s). In de cloud is de mediane on-demandprijs van de A100 40GB SXM $1.64 per GPU-hour, tegenover $4.47 voor de H200 SXM. Per gigabyte GPU-geheugen is dat $0.041 vs. $0.032 per uur.
Specificaties
Fabrikantcijfers zoals vastgelegd door Kovara. Meer geheugen en bandbreedte worden gemarkeerd; geen van beide is een benchmark van uw workload.
| A100 40GB SXM | H200 SXM | |
|---|---|---|
| Fabrikant | NVIDIA | NVIDIA |
| Architectuur | Ampere | Hopper |
| Geheugen | 40 GB HBM2 | 141 GB HBM3E |
| Geheugenbandbreedte | 1.555 TB/s | 4.8 TB/s |
| Vermogen (TDP) | 400 W | 700 W |
| Vormfactor | SXM | SXM |
Cloudprijzen vandaag
Openbare aanbiedingen die Kovara volgt, genormaliseerd naar Amerikaanse dollars per GPU-hour. Prijzen gebruiken on-demandvoorwaarden waar beschikbaar; spot- en reserved-aanbiedingen staan op de prijspagina’s van elke GPU. Lager wordt gemarkeerd.
| A100 40GB SXM | H200 SXM | |
|---|---|---|
| Laagste prijs | $1.15 | $2.60 |
| Mediane prijs | $1.64 | $4.47 |
| Hoogste prijs | $1.99 | $10.60 |
| Mediaan per GB geheugen | $0.041 | $0.032 |
| Openbare aanbiedingen (alle voorwaarden) | 5 | 41 |
| Aanbieders | 3 | 14 |
Waar u elk kunt huren
Laagste gevolgde prijs per aanbieder. Open een aanbieder om elke aanbieding, regio en voorwaarde te zien.
Vragen
Welke is goedkoper om te huren, de A100 40GB SXM of de H200 SXM?
Op dit moment is de goedkoopste on-demand-A100 40GB SXM die Kovara volgt $1.15 per GPU-hour en de goedkoopste H200 SXM $2.60. De medianen zijn $1.64 en $4.47. De goedkopere GPU per uur is niet altijd goedkoper per taak: een snellere of grotere GPU kan eerder klaar zijn of minder eenheden nodig hebben.
Welke heeft meer geheugen?
De H200 SXM heeft meer geheugen: 141 GB tegenover 40 GB. Het geheugen bepaalt welke modellen en batchgroottes op één GPU passen.
Zijn dit benchmarkresultaten?
Nee. Deze pagina vergelijkt fabrikantspecificaties en openbare prijzen. Werkelijke prestaties hangen af van het model, de precisie, de software en de interconnect. Kova kan u helpen de kosten voor een specifieke workload te schatten.