AMD Instinct MI300X 192GB vs NVIDIA GH200 96GB HBM3
Instinct MI300X 192GB har 100 % mere hukommelse end GH200 96GB HBM3 (192 GB vs. 96 GB). Hukommelsesbåndbredden er 32 % højere (5.3 vs. 4 TB/s). I skyen er medianprisen on-demand for Instinct MI300X 192GB $2.99 pr. GPU-hour mod $5.19 for GH200 96GB HBM3. Pr. gigabyte GPU-hukommelse svarer det til $0.016 vs. $0.054 pr. time.
Specifikationer
Producentens tal, som Kovara har registreret dem. Højere hukommelse og båndbredde er fremhævet; ingen af delene er en benchmark af din workload.
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| Producent | AMD | NVIDIA |
| Arkitektur | CDNA 3 | Hopper + Grace |
| Hukommelse | 192 GB HBM3 | 96 GB HBM3 |
| Hukommelsesbåndbredde | 5.3 TB/s | 4 TB/s |
| Effekt (TDP) | 750 W | 900 W |
| Formfaktor | OAM Module | Grace Hopper Superchip |
Cloudpriser i dag
Offentlige tilbud, som Kovara følger, normaliseret til amerikanske dollar pr. GPU-hour. Priserne bruger on-demand-vilkår, hvor de findes; spot- og reserverede tilbud står på hver GPU’s prissider. Den laveste er fremhævet.
| Instinct MI300X 192GB | GH200 96GB HBM3 | |
|---|---|---|
| Laveste pris | $2.59 | $2.29 |
| Medianpris | $2.99 | $5.19 |
| Højeste pris | $3.45 | $6.50 |
| Median pr. GB hukommelse | $0.016 | $0.054 |
| Offentlige tilbud (alle vilkår) | 8 | 5 |
| Udbydere | 3 | 3 |
Hvor de kan lejes
Laveste registrerede pris pr. udbyder. Åbn en udbyder for at se alle tilbud, regioner og vilkår.
Spørgsmål
Hvad er billigst at leje, Instinct MI300X 192GB eller GH200 96GB HBM3?
Lige nu er den billigste Instinct MI300X 192GB on-demand, som Kovara følger, $2.59 pr. GPU-hour, og den billigste GH200 96GB HBM3 er $2.29. Medianerne er $2.99 og $5.19. Den billigste GPU pr. time er ikke altid billigst pr. job: En hurtigere eller større GPU kan blive færdig før eller kræve færre enheder.
Hvilken har mest hukommelse?
Instinct MI300X 192GB har mest hukommelse: 192 GB mod 96 GB. Hukommelsen afgør, hvilke modeller og batchstørrelser der kan være på én GPU.
Er det benchmarkresultater?
Nej. Denne side sammenligner producentens specifikationer og offentlige priser. Den reelle ydeevne afhænger af model, præcision, software og interconnect. Kova kan hjælpe dig med at estimere omkostningerne for en bestemt workload.