L40 48GB

Spezifikationen erklärt

Eingesetzt für AI inference, graphics und virtual workstation

1. 0148 GB GDDR6-Speicher

   VRAM

   48 GB

   Speichertyp

   GDDR6

   Speicherbandbreite

   0.864 TB/s

   GDDR ist Grafikspeicher, der auf der Platine rund um die GPU montiert ist, statt auf dem Package gestapelt zu sein. Er wird häufig auf Karten für Grafik, Rendering und kostengünstige Inferenz eingesetzt.

   VRAM ist der Arbeitsspeicher auf der Karte. Modellgewichte, Aktivierungen und Datensätze müssen darin Platz finden oder auf mehrere GPUs verteilt werden. Faustregel allein für die Gewichte bei 16-Bit-Genauigkeit (etwa 2 GB pro Milliarde Parameter): bis zu etwa 24 Milliarden Parameter, vor Aktivierungen und Cache. Das ist eine Rechnung auf Basis des erfassten VRAM, kein Benchmark.

2. 02Ada Lovelace-Architektur

   Architektur

   Ada Lovelace

   Generation

   Ada Data Center

   Einführungsjahr

   2022

   Lebenszyklusstatus

   Previous

   Ada Lovelace brachte Tensor Cores der vierten Generation mit FP8-Unterstützung und Raytracing-Kerne der dritten Generation. (Allgemeiner Kontext zur Architektur, keine Aussage über diese konkrete Karte.)

   Im Jahr 2022 eingeführt. Die Datensätze von Kovara führen es als Komponente der Vorgängergeneration.

3. 03Formfaktor und Leistung

   NVLink

   Nicht unterstützt

   MIG

   Nicht unterstützt

   Formfaktor

   PCIe dual-slot FHFL

   TDP

   300 W

   Die Datensätze von Kovara zeigen keine NVLink-Unterstützung, daher sind Multi-GPU-Jobs auf dieser Komponente beim Datentransport auf PCIe oder das Netzwerk zwischen den Servern angewiesen.

   PCIe-Karten werden in die Standard-Erweiterungssteckplätze von Servern und Workstations gesteckt, was zu einer breiten Palette von Systemen passt.

   TDP ist die nominelle Thermal Design Power: der Planungswert für Stromversorgung und Kühlung in einem Server.

4. 04Wofür es eingesetzt wird

   Hauptverwendung (erfasst)

   AI inference / graphics / virtual workstation

   Dies sind die Verwendungszwecke, die Kovara für diese Komponente erfasst hat. Die Hinweise erläutern den Workload allgemein; sie sind keine Leistungsaussagen.

   • AI inferenceDas Ausführen eines trainierten Modells, um Anfragen zu beantworten. Üblicherweise stehen Speicherkapazität, Latenz und Kosten pro Anfrage im Vordergrund.
   • graphicsInteraktive Grafik sowie professionelle Design- oder Konstruktionsanwendungen.
   • virtual workstationGemeinsame Nutzung einer GPU durch Remote-Desktops und virtuelle Workstations.

Die Zahlen sind Kovara-Stammdaten, zuletzt verifiziert am 03. Sept. 2026. Die Erläuterungen beschreiben die Technologie allgemein; sie sind keine Benchmarks und sagen nichts über Preis oder Verfügbarkeit aus.