L40 48GB

Specificaties uitgelegd

Gebruikt voor AI inference, graphics en virtual workstation

1. 0148 GB GDDR6-geheugen

   VRAM

   48 GB

   Geheugentype

   GDDR6

   Geheugenbandbreedte

   0.864 TB/s

   GDDR is grafisch geheugen dat op de kaart rond de GPU is gemonteerd in plaats van op de behuizing gestapeld. Het wordt veel gebruikt op kaarten voor graphics, rendering en kostenefficiënte inferentie.

   VRAM is de werkruimte op de kaart. Modelgewichten, activaties en datasets moeten erin passen of over meerdere GPU’s worden verdeeld. Vuistregel voor alleen de gewichten bij 16-bit precisie (ongeveer 2 GB per miljard parameters): tot ruwweg 24 miljard parameters, vóór activaties en cache. Dit is een rekensom op basis van het vastgelegde VRAM, geen benchmark.

2. 02Ada Lovelace-architectuur

   Architectuur

   Ada Lovelace

   Generatie

   Ada Data Center

   Lanceringsjaar

   2022

   Levenscyclusstatus

   Previous

   Ada Lovelace bracht Tensor Cores van de vierde generatie met FP8-ondersteuning en raytracing-cores van de derde generatie. (Algemene context over de architectuur, geen uitspraak over deze specifieke kaart.)

   Gelanceerd in 2022. De records van Kovara vermelden dit als een onderdeel van de vorige generatie.

3. 03Vormfactor en vermogen

   NVLink

   Niet ondersteund

   MIG

   Niet ondersteund

   Vormfactor

   PCIe dual-slot FHFL

   TDP

   300 W

   De records van Kovara tonen geen NVLink-ondersteuning, dus taken met meerdere GPU’s op dit onderdeel zijn voor datatransport aangewezen op PCIe of het netwerk tussen servers.

   PCIe-kaarten passen in standaard uitbreidingsslots van servers en workstations, wat geschikt is voor een breed scala aan systemen.

   TDP is het nominale thermische ontwerpvermogen: het planningscijfer voor stroomvoorziening en koeling in een server.

4. 04Waarvoor het wordt gebruikt

   Primair gebruik (vastgelegd)

   AI inference / graphics / virtual workstation

   Dit zijn de toepassingen die Kovara voor dit onderdeel heeft vastgelegd. De toelichtingen beschrijven de workload in algemene termen; het zijn geen prestatieclaims.

   • AI inferenceEen getraind model draaien om verzoeken te beantwoorden. Geheugencapaciteit, latentie en kosten per verzoek zijn de gebruikelijke aandachtspunten.
   • graphicsInteractieve graphics en professionele ontwerp- of engineeringtoepassingen.
   • virtual workstationEen GPU delen tussen externe desktops en virtuele workstations.

De cijfers zijn stamgegevens van Kovara, laatst geverifieerd op 03 sep 2026. De toelichtingen beschrijven de technologie in het algemeen; het zijn geen benchmarks en ze zeggen niets over prijs of beschikbaarheid.