L40 48GB

Specifikationerna förklarade

Används för AI inference, graphics och virtual workstation

1. 0148 GB GDDR6-minne

   VRAM

   48 GB

   Minnestyp

   GDDR6

   Minnesbandbredd

   0.864 TB/s

   GDDR är grafikminne som är monterat på kortet runt GPU:n i stället för staplat i kapseln. Det används i stor utsträckning på kort för grafik, rendering och kostnadseffektiv inferens.

   VRAM är arbetsytan på kortet. Modellvikter, aktiveringar och datamängder måste rymmas i det eller delas upp över flera GPU:er. Tumregel för enbart vikterna vid 16-bitars precision (cirka 2 GB per miljard parametrar): upp till ungefär 24 miljarder parametrar, före aktiveringar och cache. Det här är aritmetik på det registrerade VRAM-värdet, inte en benchmark.

2. 02Arkitekturen Ada Lovelace

   Arkitektur

   Ada Lovelace

   Generation

   Ada Data Center

   Lanseringsår

   2022

   Livscykelstatus

   Previous

   Ada Lovelace gav fjärde generationens Tensor Cores med stöd för FP8 och tredje generationens kärnor för ray tracing. (Allmänt sammanhang om arkitekturen, inte ett påstående om just det här kortet.)

   Lanserad 2022. Enligt Kovaras poster är det en komponent av föregående generation.

3. 03Formfaktor och effekt

   NVLink

   Stöds inte

   MIG

   Stöds inte

   Formfaktor

   PCIe dual-slot FHFL

   TDP

   300 W

   Kovaras poster visar inget stöd för NVLink, så jobb med flera GPU:er på den här komponenten är beroende av PCIe eller nätverket mellan servrar för att flytta data.

   PCIe-kort sätts i vanliga expansionsplatser i servrar och arbetsstationer, vilket passar ett brett spektrum av system.

   TDP är den angivna termiska designeffekten: planeringsvärdet för strömförsörjning och kylning i en server.

4. 04Vad den används till

   Primär användning (registrerad)

   AI inference / graphics / virtual workstation

   Det här är de användningsområden som Kovara har registrerat för komponenten. Kommentarerna förklarar arbetslasten i allmänna termer; de är inga påståenden om prestanda.

   • AI inferenceAtt köra en tränad modell för att besvara förfrågningar. Minneskapacitet, latens och kostnad per förfrågan är de vanliga frågorna.
   • graphicsInteraktiv grafik och professionella program för design eller teknik.
   • virtual workstationAtt dela en GPU mellan fjärrskrivbord och virtuella arbetsstationer.

Värdena är Kovaras masterdata, senast verifierade 03 sep. 2026. Förklaringarna beskriver tekniken i allmänhet; de är inga benchmarks och säger inget om pris eller tillgänglighet.