NVIDIA GH200 96GB HBM3 vs NVIDIA H100 NVL 94GB
GH200 96GB HBM3 hat ungefähr gleich viel Speicher wie H100 NVL 94GB (96 GB vs 94 GB). Die Speicherbandbreite ist ungefähr gleich (4 vs 3.9 TB/s). In der Cloud beträgt der On-Demand-Medianpreis für GH200 96GB HBM3 $5.19 pro GPU-hour, gegenüber $8.66 für H100 NVL 94GB. Pro Gigabyte GPU-Speicher sind das $0.054 vs $0.092 pro Stunde.
Spezifikationen
Herstellerangaben, wie von Kovara erfasst. Höherer Speicher und höhere Bandbreite sind hervorgehoben; keiner der beiden Werte ist ein Benchmark Ihres Workloads.
| GH200 96GB HBM3 | H100 NVL 94GB | |
|---|---|---|
| Hersteller | NVIDIA | NVIDIA |
| Architektur | Hopper + Grace | Hopper |
| Speicher | 96 GB HBM3 | 94 GB HBM3 |
| Speicherbandbreite | 4 TB/s | 3.9 TB/s |
| Leistung (TDP) | 900 W | 400 W |
| Formfaktor | Grace Hopper Superchip | PCIe |
Cloud-Preise heute
Von Kovara erfasste öffentliche Angebote, normalisiert auf US-Dollar pro GPU-hour. Die Preise beruhen, soweit verfügbar, auf On-Demand-Konditionen; Spot- und Reserved-Angebote finden Sie auf den Preisseiten der jeweiligen GPU. Der niedrigere Wert ist hervorgehoben.
| GH200 96GB HBM3 | H100 NVL 94GB | |
|---|---|---|
| Niedrigster Preis | $2.29 | $2.92 |
| Medianpreis | $5.19 | $8.66 |
| Höchster Preis | $6.50 | $10.12 |
| Median pro GB Speicher | $0.054 | $0.092 |
| Öffentliche Angebote (alle Konditionen) | 5 | 60 |
| Anbieter | 3 | 3 |
Wo Sie jede mieten können
Niedrigster erfasster Preis je Anbieter. Öffnen Sie einen Anbieter, um alle Angebote, Regionen und Konditionen zu sehen.
Fragen
Welche lässt sich günstiger mieten, die GH200 96GB HBM3 oder die H100 NVL 94GB?
Derzeit liegt der niedrigste von Kovara erfasste On-Demand-Preis für GH200 96GB HBM3 bei $2.29 pro GPU-hour, für H100 NVL 94GB bei $2.92. Die Mediane betragen $5.19 und $8.66. Die pro Stunde günstigere GPU ist nicht immer pro Auftrag günstiger: Eine schnellere oder größere GPU kann früher fertig werden oder weniger Einheiten benötigen.
Welche hat mehr Speicher?
GH200 96GB HBM3 hat mehr Speicher: 96 GB gegenüber 94 GB. Der Speicher entscheidet, welche Modelle und Batch-Größen auf eine einzelne GPU passen.
Sind das Benchmark-Ergebnisse?
Nein. Diese Seite vergleicht Herstellerspezifikationen und öffentliche Preise. Die tatsächliche Leistung hängt vom Modell, der Präzision, der Software und dem Interconnect ab. Kova kann Ihnen helfen, die Kosten für einen bestimmten Workload zu schätzen.