AMD Instinct MI300X 192GB vs NVIDIA A100 80GB SXM
Instinct MI300X 192GB hat 140 % mehr Speicher als A100 80GB SXM (192 GB vs 80 GB). Die Speicherbandbreite ist um 160 % höher (5.3 vs 2.039 TB/s). In der Cloud beträgt der On-Demand-Medianpreis für Instinct MI300X 192GB $2.99 pro GPU-hour, gegenüber $1.69 für A100 80GB SXM. Pro Gigabyte GPU-Speicher sind das $0.016 vs $0.021 pro Stunde.
Spezifikationen
Herstellerangaben, wie von Kovara erfasst. Höherer Speicher und höhere Bandbreite sind hervorgehoben; keiner der beiden Werte ist ein Benchmark Ihres Workloads.
| Instinct MI300X 192GB | A100 80GB SXM | |
|---|---|---|
| Hersteller | AMD | NVIDIA |
| Architektur | CDNA 3 | Ampere |
| Speicher | 192 GB HBM3 | 80 GB HBM2E |
| Speicherbandbreite | 5.3 TB/s | 2.039 TB/s |
| Leistung (TDP) | 750 W | 400 W |
| Formfaktor | OAM Module | SXM |
Cloud-Preise heute
Von Kovara erfasste öffentliche Angebote, normalisiert auf US-Dollar pro GPU-hour. Die Preise beruhen, soweit verfügbar, auf On-Demand-Konditionen; Spot- und Reserved-Angebote finden Sie auf den Preisseiten der jeweiligen GPU. Der niedrigere Wert ist hervorgehoben.
| Instinct MI300X 192GB | A100 80GB SXM | |
|---|---|---|
| Niedrigster Preis | $2.59 | $1.38 |
| Medianpreis | $2.99 | $1.69 |
| Höchster Preis | $3.45 | $3.18 |
| Median pro GB Speicher | $0.016 | $0.021 |
| Öffentliche Angebote (alle Konditionen) | 8 | 20 |
| Anbieter | 3 | 9 |
Wo Sie jede mieten können
Niedrigster erfasster Preis je Anbieter. Öffnen Sie einen Anbieter, um alle Angebote, Regionen und Konditionen zu sehen.
Fragen
Welche lässt sich günstiger mieten, die Instinct MI300X 192GB oder die A100 80GB SXM?
Derzeit liegt der niedrigste von Kovara erfasste On-Demand-Preis für Instinct MI300X 192GB bei $2.59 pro GPU-hour, für A100 80GB SXM bei $1.38. Die Mediane betragen $2.99 und $1.69. Die pro Stunde günstigere GPU ist nicht immer pro Auftrag günstiger: Eine schnellere oder größere GPU kann früher fertig werden oder weniger Einheiten benötigen.
Welche hat mehr Speicher?
Instinct MI300X 192GB hat mehr Speicher: 192 GB gegenüber 80 GB. Der Speicher entscheidet, welche Modelle und Batch-Größen auf eine einzelne GPU passen.
Sind das Benchmark-Ergebnisse?
Nein. Diese Seite vergleicht Herstellerspezifikationen und öffentliche Preise. Die tatsächliche Leistung hängt vom Modell, der Präzision, der Software und dem Interconnect ab. Kova kann Ihnen helfen, die Kosten für einen bestimmten Workload zu schätzen.