AMD Instinct MI300X 192GB vs NVIDIA GH200 96GB HBM3
Instinct MI300X 192GB heeft 100% meer geheugen dan GH200 96GB HBM3 (192 GB vs. 96 GB). De geheugenbandbreedte is 32% hoger (5.3 vs. 4 TB/s). In de cloud is de mediane on-demandprijs van de Instinct MI300X 192GB $2.99 per GPU-hour, tegenover $5.19 voor de GH200 96GB HBM3. Per gigabyte GPU-geheugen is dat $0.016 vs. $0.054 per uur.
Specificaties
Fabrikantcijfers zoals vastgelegd door Kovara. Meer geheugen en bandbreedte worden gemarkeerd; geen van beide is een benchmark van uw workload.
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| Fabrikant | AMD | NVIDIA |
| Architectuur | CDNA 3 | Hopper + Grace |
| Geheugen | 192 GB HBM3 | 96 GB HBM3 |
| Geheugenbandbreedte | 5.3 TB/s | 4 TB/s |
| Vermogen (TDP) | 750 W | 900 W |
| Vormfactor | OAM Module | Grace Hopper Superchip |
Cloudprijzen vandaag
Openbare aanbiedingen die Kovara volgt, genormaliseerd naar Amerikaanse dollars per GPU-hour. Prijzen gebruiken on-demandvoorwaarden waar beschikbaar; spot- en reserved-aanbiedingen staan op de prijspagina’s van elke GPU. Lager wordt gemarkeerd.
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| Laagste prijs | $2.59 | $2.29 |
| Mediane prijs | $2.99 | $5.19 |
| Hoogste prijs | $3.45 | $6.50 |
| Mediaan per GB geheugen | $0.016 | $0.054 |
| Openbare aanbiedingen (alle voorwaarden) | 8 | 5 |
| Aanbieders | 3 | 3 |
Waar u elk kunt huren
Laagste gevolgde prijs per aanbieder. Open een aanbieder om elke aanbieding, regio en voorwaarde te zien.
Vragen
Welke is goedkoper om te huren, de Instinct MI300X 192GB of de GH200 96GB HBM3?
Op dit moment is de goedkoopste on-demand-Instinct MI300X 192GB die Kovara volgt $2.59 per GPU-hour en de goedkoopste GH200 96GB HBM3 $2.29. De medianen zijn $2.99 en $5.19. De goedkopere GPU per uur is niet altijd goedkoper per taak: een snellere of grotere GPU kan eerder klaar zijn of minder eenheden nodig hebben.
Welke heeft meer geheugen?
De Instinct MI300X 192GB heeft meer geheugen: 192 GB tegenover 96 GB. Het geheugen bepaalt welke modellen en batchgroottes op één GPU passen.
Zijn dit benchmarkresultaten?
Nee. Deze pagina vergelijkt fabrikantspecificaties en openbare prijzen. Werkelijke prestaties hangen af van het model, de precisie, de software en de interconnect. Kova kan u helpen de kosten voor een specifieke workload te schatten.