A100 MIG 20GB slice

Spezifikationen erklärt

Eingesetzt für AI training und inference

1. 0120 GB Speicher

   VRAM

   20 GB

   VRAM ist der Arbeitsspeicher auf der Karte. Modellgewichte, Aktivierungen und Datensätze müssen darin Platz finden oder auf mehrere GPUs verteilt werden. Faustregel allein für die Gewichte bei 16-Bit-Genauigkeit (etwa 2 GB pro Milliarde Parameter): bis zu etwa 10 Milliarden Parameter, vor Aktivierungen und Cache. Das ist eine Rechnung auf Basis des erfassten VRAM, kein Benchmark.

2. 02Ampere-Architektur

   Architektur

   Ampere

   Einführungsjahr

   2020

   Lebenszyklusstatus

   Previous

   Ampere brachte Tensor Cores der dritten Generation, TF32-Genauigkeit und Multi-Instance GPU (MIG) in seine Komponenten für Rechenzentren. (Allgemeiner Kontext zur Architektur, keine Aussage über diese konkrete Karte.)

   Im Jahr 2020 eingeführt. Die Datensätze von Kovara führen es als Komponente der Vorgängergeneration.

3. 03Leistung und Kühlung

   MIG

   Unterstützt

   Multi-Instance GPU (MIG) kann eine physische GPU in isolierte Partitionen unterteilen, jeweils mit eigenem Speicher und eigener Rechenleistung, sodass sich mehrere kleinere Workloads eine Karte teilen können.

4. 04Wofür es eingesetzt wird

   Hauptverwendung (erfasst)

   AI training / inference

   Dies sind die Verwendungszwecke, die Kovara für diese Komponente erfasst hat. Die Hinweise erläutern den Workload allgemein; sie sind keine Leistungsaussagen.

   • AI trainingDas Trainieren eines Modells mit Daten. In der Regel die Phase mit dem größten Bedarf an Rechenleistung und Speicher, oft auf viele GPUs verteilt.
   • inferenceDas Ausführen eines trainierten Modells, um Anfragen zu beantworten. Üblicherweise stehen Speicherkapazität, Latenz und Kosten pro Anfrage im Vordergrund.

Die Zahlen sind Kovara-Stammdaten, zuletzt verifiziert am 25. Sept. 2026. Die Erläuterungen beschreiben die Technologie allgemein; sie sind keine Benchmarks und sagen nichts über Preis oder Verfügbarkeit aus.