NVIDIA GH200 96GB HBM3 vs NVIDIA RTX A4000 16GB
GH200 96GB HBM3 heeft 500% meer geheugen dan RTX A4000 16GB (96 GB vs. 16 GB). De geheugenbandbreedte is 793% hoger (4 vs. 0.448 TB/s). In de cloud is de mediane on-demandprijs van de GH200 96GB HBM3 $5.19 per GPU-hour, tegenover $0.76 voor de RTX A4000 16GB. Per gigabyte GPU-geheugen is dat $0.054 vs. $0.048 per uur.
Specificaties
Fabrikantcijfers zoals vastgelegd door Kovara. Meer geheugen en bandbreedte worden gemarkeerd; geen van beide is een benchmark van uw workload.
| GH200 96GB HBM3 | RTX A4000 16GB | |
|---|---|---|
| Fabrikant | NVIDIA | NVIDIA |
| Architectuur | Hopper + Grace | Ampere |
| Geheugen | 96 GB HBM3 | 16 GB GDDR6 |
| Geheugenbandbreedte | 4 TB/s | 0.448 TB/s |
| Vermogen (TDP) | 900 W | 140 W |
| Vormfactor | Grace Hopper Superchip | PCIe single-slot |
Cloudprijzen vandaag
Openbare aanbiedingen die Kovara volgt, genormaliseerd naar Amerikaanse dollars per GPU-hour. Prijzen gebruiken on-demandvoorwaarden waar beschikbaar; spot- en reserved-aanbiedingen staan op de prijspagina’s van elke GPU. Lager wordt gemarkeerd.
| GH200 96GB HBM3 | RTX A4000 16GB | |
|---|---|---|
| Laagste prijs | $2.29 | $0.15 |
| Mediane prijs | $5.19 | $0.76 |
| Hoogste prijs | $6.50 | $0.76 |
| Mediaan per GB geheugen | $0.054 | $0.048 |
| Openbare aanbiedingen (alle voorwaarden) | 5 | 6 |
| Aanbieders | 3 | 3 |
Waar u elk kunt huren
Laagste gevolgde prijs per aanbieder. Open een aanbieder om elke aanbieding, regio en voorwaarde te zien.
Vragen
Welke is goedkoper om te huren, de GH200 96GB HBM3 of de RTX A4000 16GB?
Op dit moment is de goedkoopste on-demand-GH200 96GB HBM3 die Kovara volgt $2.29 per GPU-hour en de goedkoopste RTX A4000 16GB $0.15. De medianen zijn $5.19 en $0.76. De goedkopere GPU per uur is niet altijd goedkoper per taak: een snellere of grotere GPU kan eerder klaar zijn of minder eenheden nodig hebben.
Welke heeft meer geheugen?
De GH200 96GB HBM3 heeft meer geheugen: 96 GB tegenover 16 GB. Het geheugen bepaalt welke modellen en batchgroottes op één GPU passen.
Zijn dit benchmarkresultaten?
Nee. Deze pagina vergelijkt fabrikantspecificaties en openbare prijzen. Werkelijke prestaties hangen af van het model, de precisie, de software en de interconnect. Kova kan u helpen de kosten voor een specifieke workload te schatten.