L4 24GB

Specifiche spiegate

Utilizzato per AI inference, video e graphics

1. 0124 GB di memoria GDDR6

   VRAM

   24 GB

   Tipo di memoria

   GDDR6

   Larghezza di banda della memoria

   0.3 TB/s

   La GDDR è una memoria grafica montata sulla scheda attorno alla GPU, anziché impilata sul package. È molto usata sulle schede per grafica, rendering e inferenza a costi contenuti.

   La VRAM è lo spazio di lavoro sulla scheda. Pesi del modello, attivazioni e dataset devono entrarci, oppure essere suddivisi su più GPU. Regola empirica per i soli pesi con precisione a 16 bit (circa 2 GB per miliardo di parametri): fino a circa 12 miliardi di parametri, prima di attivazioni e cache. È un calcolo aritmetico sulla VRAM registrata, non un benchmark.

2. 02Architettura Ada Lovelace

   Architettura

   Ada Lovelace

   Generazione

   Ada

   Anno di lancio

   2023

   Stato del ciclo di vita

   Current

   Ada Lovelace ha portato i Tensor Core di quarta generazione con supporto FP8 e i core per il ray tracing di terza generazione. (Contesto generale sull’architettura, non un’affermazione su questa scheda specifica.)

   Lanciato nel 2023. I record di Kovara lo indicano come un componente di generazione attuale.

3. 03Form factor e alimentazione

   NVLink

   Non supportato

   MIG

   Non supportato

   Form factor

   PCIe low-profile single-slot

   TDP

   72 W

   I record di Kovara non indicano alcun supporto NVLink, quindi i job multi-GPU su questo componente si affidano a PCIe o alla rete tra i server per spostare i dati.

   Le schede PCIe si inseriscono negli slot di espansione standard di server e workstation, il che si adatta a un’ampia gamma di sistemi.

   Il TDP è la potenza termica di progetto nominale: il valore di riferimento per l’alimentazione e il raffreddamento in un server.

4. 04A cosa serve

   Utilizzo principale (registrato)

   AI inference / video / graphics

   Questi sono gli utilizzi che Kovara ha registrato per questo componente. Le note spiegano il carico di lavoro in termini generali; non sono dichiarazioni sulle prestazioni.

   • AI inferenceL’esecuzione di un modello addestrato per rispondere alle richieste. Le preoccupazioni abituali sono la capacità di memoria, la latenza e il costo per richiesta.
   • videoTranscodifica video e pipeline di analisi video.
   • graphicsGrafica interattiva e applicazioni professionali di progettazione o ingegneria.

Le cifre sono dati anagrafici di Kovara, ultima verifica: 03 set 2026. Le spiegazioni descrivono la tecnologia in generale; non sono benchmark e non dicono nulla su prezzo o disponibilità.