L40 48GB

Spesifikasjonene forklart

Brukes til AI inference, graphics og virtual workstation

1. 0148 GB GDDR6-minne

   VRAM

   48 GB

   Minnetype

   GDDR6

   Minnebåndbredde

   0.864 TB/s

   GDDR er grafikkminne montert på kortet rundt GPU-en i stedet for stablet i pakken. Det er mye brukt på kort for grafikk, rendering og kostnadseffektiv inferens.

   VRAM er arbeidsområdet på kortet. Modellvekter, aktiveringer og datasett må få plass i det, eller deles over flere GPU-er. Tommelfingerregel for vektene alene ved 16-biters presisjon (omtrent 2 GB per milliard parametere): opptil om lag 24 milliarder parametere, før aktiveringer og cache. Dette er regning på registrert VRAM, ikke en benchmark.

2. 02Ada Lovelace-arkitektur

   Arkitektur

   Ada Lovelace

   Generasjon

   Ada Data Center

   Lanseringsår

   2022

   Livssyklusstatus

   Previous

   Ada Lovelace brakte fjerde generasjons tensorkjerner med FP8-støtte og tredje generasjons strålesporingskjerner. (Generell kontekst om arkitekturen, ikke en påstand om akkurat dette kortet.)

   Lansert i 2022. Kovaras registreringer oppfører den som en del av forrige generasjon.

3. 03Formfaktor og effekt

   NVLink

   Støttes ikke

   MIG

   Støttes ikke

   Formfaktor

   PCIe dual-slot FHFL

   TDP

   300 W

   Kovaras registreringer viser ingen støtte for NVLink, så jobber med flere GPU-er på denne delen er avhengige av PCIe eller nettverket mellom serverne for å flytte data.

   PCIe-kort settes inn i vanlige utvidelsesspor i servere og arbeidsstasjoner, noe som passer et bredt utvalg av systemer.

   TDP er den oppgitte termiske designeffekten: planleggingstallet for strømforsyning og kjøling i en server.

4. 04Hva den brukes til

   Primær bruk (registrert)

   AI inference / graphics / virtual workstation

   Dette er bruksområdene Kovara har registrert for denne delen. Merknadene forklarer arbeidslasten i generelle termer; de er ikke påstander om ytelse.

   • AI inferenceÅ kjøre en trent modell for å besvare forespørsler. Minnekapasitet, forsinkelse og kostnad per forespørsel er de vanlige hensynene.
   • graphicsInteraktiv grafikk og profesjonelle applikasjoner for design eller ingeniørarbeid.
   • virtual workstationDeling av en GPU mellom eksterne skrivebord og virtuelle arbeidsstasjoner.

Tallene er Kovaras stamdata, sist verifisert 03. sep. 2026. Forklaringene beskriver teknologien generelt; de er ikke benchmarks og sier ingenting om pris eller tilgjengelighet.