GB300 NVL72 / 288GB per GPU

Spezifikationen erklärt

Eingesetzt für Frontier AI training, reasoning inference und HPC

1. 01288 GB HBM3E-Speicher

   VRAM

   288 GB

   Speichertyp

   HBM3E

   Speicherbandbreite

   8 TB/s

   HBM (High Bandwidth Memory) wird in Schichten gestapelt und sitzt unmittelbar neben dem Prozessor auf demselben Package. Dieser kurze, breite Pfad verleiht Beschleunigern mit HBM ihre Speicherbandbreite, weshalb sie üblicherweise für Aufgaben gewählt werden, die davon begrenzt werden, wie schnell Daten die Kerne erreichen, etwa die Inferenz großer Modelle und die HPC-Simulation.

   VRAM ist der Arbeitsspeicher auf der Karte. Modellgewichte, Aktivierungen und Datensätze müssen darin Platz finden oder auf mehrere GPUs verteilt werden. Faustregel allein für die Gewichte bei 16-Bit-Genauigkeit (etwa 2 GB pro Milliarde Parameter): bis zu etwa 144 Milliarden Parameter, vor Aktivierungen und Cache. Das ist eine Rechnung auf Basis des erfassten VRAM, kein Benchmark.

2. 02Blackwell Ultra + Grace-Architektur

   Architektur

   Blackwell Ultra + Grace

   Generation

   Grace Blackwell Ultra

   Einführungsjahr

   2025

   Lebenszyklusstatus

   Current

   Im Jahr 2025 eingeführt. Die Datensätze von Kovara führen es als Komponente der aktuellen Generation.

3. 03Für die Skalierung über mehrere GPUs ausgelegt

   NVLink

   Unterstützt

   MIG

   Unterstützt

   Formfaktor

   Rack-scale NVL module

   TDP

   1400 W

   NVLink ist eine direkte GPU-zu-GPU-Verbindung. Wo sie unterstützt wird, können GPUs im selben Server Daten schneller austauschen als allein über PCIe, was relevant ist, wenn ein einzelner Trainingsjob auf mehrere GPUs verteilt wird.

   Multi-Instance GPU (MIG) kann eine physische GPU in isolierte Partitionen unterteilen, jeweils mit eigenem Speicher und eigener Rechenleistung, sodass sich mehrere kleinere Workloads eine Karte teilen können.

   TDP ist die nominelle Thermal Design Power: der Planungswert für Stromversorgung und Kühlung in einem Server.

4. 04Wofür es eingesetzt wird

   Hauptverwendung (erfasst)

   Frontier AI training / reasoning inference / HPC

   Dies sind die Verwendungszwecke, die Kovara für diese Komponente erfasst hat. Die Hinweise erläutern den Workload allgemein; sie sind keine Leistungsaussagen.

   • Frontier AI trainingDas Trainieren eines Modells mit Daten. In der Regel die Phase mit dem größten Bedarf an Rechenleistung und Speicher, oft auf viele GPUs verteilt.
   • reasoning inferenceDas Ausführen eines trainierten Modells, um Anfragen zu beantworten. Üblicherweise stehen Speicherkapazität, Latenz und Kosten pro Anfrage im Vordergrund.
   • HPCWissenschaftliche und technische Simulation, bei der numerische Genauigkeit und Speicherbandbreite zählen.

Die Zahlen sind Kovara-Stammdaten, zuletzt verifiziert am 03. Sept. 2026. Die Erläuterungen beschreiben die Technologie allgemein; sie sind keine Benchmarks und sagen nichts über Preis oder Verfügbarkeit aus.