AMD Instinct MI300X 192GB vs NVIDIA A100 40GB SXM
Instinct MI300X 192GB har 380 % mer minne enn A100 40GB SXM (192 GB vs 40 GB). Minnebåndbredden er 241 % høyere (5.3 vs 1.555 TB/s). I skyen er medianprisen on-demand for Instinct MI300X 192GB $2.99 per GPU-hour, mot $1.64 for A100 40GB SXM. Per gigabyte GPU-minne blir det $0.016 vs $0.041 per time.
Spesifikasjoner
Produsentens tall slik Kovara har registrert dem. Høyere minne og båndbredde er uthevet; ingen av dem er en benchmark av din arbeidslast.
| Instinct MI300X 192GB | A100 40GB SXM | |
|---|---|---|
| Produsent | AMD | NVIDIA |
| Arkitektur | CDNA 3 | Ampere |
| Minne | 192 GB HBM3 | 40 GB HBM2 |
| Minnebåndbredde | 5.3 TB/s | 1.555 TB/s |
| Effekt (TDP) | 750 W | 400 W |
| Formfaktor | OAM Module | SXM |
Skypriser i dag
Offentlige tilbud Kovara følger, normalisert til amerikanske dollar per GPU-hour. Prisene bruker on-demand-vilkår der de finnes; spot- og reserverte tilbud ligger på prissidene for hver GPU. Lavest er uthevet.
| Instinct MI300X 192GB | A100 40GB SXM | |
|---|---|---|
| Laveste pris | $2.59 | $1.15 |
| Medianpris | $2.99 | $1.64 |
| Høyeste pris | $3.45 | $1.99 |
| Median per GB minne | $0.016 | $0.041 |
| Offentlige tilbud (alle vilkår) | 8 | 5 |
| Leverandører | 3 | 3 |
Hvor du kan leie hver av dem
Laveste sporede pris per leverandør. Åpne en leverandør for å se alle tilbud, regioner og vilkår.
Spørsmål
Hvilken er billigst å leie, Instinct MI300X 192GB eller A100 40GB SXM?
Akkurat nå er den billigste Instinct MI300X 192GB on-demand som Kovara følger, $2.59 per GPU-hour, og den billigste A100 40GB SXM er $1.15. Medianene er $2.99 og $1.64. Den billigste GPU-en per time er ikke alltid billigst per jobb: en raskere eller større GPU kan bli ferdig tidligere eller trenge færre enheter.
Hvilken har mest minne?
Instinct MI300X 192GB har mest minne: 192 GB mot 40 GB. Minnet avgjør hvilke modeller og batchstørrelser som får plass på én GPU.
Er dette benchmarkresultater?
Nei. Denne siden sammenligner produsentens spesifikasjoner og offentlige priser. Reell ytelse avhenger av modell, presisjon, programvare og sammenkobling. Kova kan hjelpe deg med å anslå kostnaden for en bestemt arbeidslast.