L40 48GB

Specifiche spiegate

Utilizzato per AI inference, graphics e virtual workstation

1. 0148 GB di memoria GDDR6

   VRAM

   48 GB

   Tipo di memoria

   GDDR6

   Larghezza di banda della memoria

   0.864 TB/s

   La GDDR è una memoria grafica montata sulla scheda attorno alla GPU, anziché impilata sul package. È molto usata sulle schede per grafica, rendering e inferenza a costi contenuti.

   La VRAM è lo spazio di lavoro sulla scheda. Pesi del modello, attivazioni e dataset devono entrarci, oppure essere suddivisi su più GPU. Regola empirica per i soli pesi con precisione a 16 bit (circa 2 GB per miliardo di parametri): fino a circa 24 miliardi di parametri, prima di attivazioni e cache. È un calcolo aritmetico sulla VRAM registrata, non un benchmark.

2. 02Architettura Ada Lovelace

   Architettura

   Ada Lovelace

   Generazione

   Ada Data Center

   Anno di lancio

   2022

   Stato del ciclo di vita

   Previous

   Ada Lovelace ha portato i Tensor Core di quarta generazione con supporto FP8 e i core per il ray tracing di terza generazione. (Contesto generale sull’architettura, non un’affermazione su questa scheda specifica.)

   Lanciato nel 2022. I record di Kovara lo indicano come un componente della generazione precedente.

3. 03Form factor e alimentazione

   NVLink

   Non supportato

   MIG

   Non supportato

   Form factor

   PCIe dual-slot FHFL

   TDP

   300 W

   I record di Kovara non indicano alcun supporto NVLink, quindi i job multi-GPU su questo componente si affidano a PCIe o alla rete tra i server per spostare i dati.

   Le schede PCIe si inseriscono negli slot di espansione standard di server e workstation, il che si adatta a un’ampia gamma di sistemi.

   Il TDP è la potenza termica di progetto nominale: il valore di riferimento per l’alimentazione e il raffreddamento in un server.

4. 04A cosa serve

   Utilizzo principale (registrato)

   AI inference / graphics / virtual workstation

   Questi sono gli utilizzi che Kovara ha registrato per questo componente. Le note spiegano il carico di lavoro in termini generali; non sono dichiarazioni sulle prestazioni.

   • AI inferenceL’esecuzione di un modello addestrato per rispondere alle richieste. Le preoccupazioni abituali sono la capacità di memoria, la latenza e il costo per richiesta.
   • graphicsGrafica interattiva e applicazioni professionali di progettazione o ingegneria.
   • virtual workstationCondivisione di una GPU tra desktop remoti e workstation virtuali.

Le cifre sono dati anagrafici di Kovara, ultima verifica: 03 set 2026. Le spiegazioni descrivono la tecnologia in generale; non sono benchmark e non dicono nulla su prezzo o disponibilità.