A40 48GB

Specifiche spiegate

Utilizzato per Graphics, AI e virtual workstation

1. 0148 GB di memoria GDDR6

   VRAM

   48 GB

   Tipo di memoria

   GDDR6

   Larghezza di banda della memoria

   0.696 TB/s

   La GDDR è una memoria grafica montata sulla scheda attorno alla GPU, anziché impilata sul package. È molto usata sulle schede per grafica, rendering e inferenza a costi contenuti.

   La VRAM è lo spazio di lavoro sulla scheda. Pesi del modello, attivazioni e dataset devono entrarci, oppure essere suddivisi su più GPU. Regola empirica per i soli pesi con precisione a 16 bit (circa 2 GB per miliardo di parametri): fino a circa 24 miliardi di parametri, prima di attivazioni e cache. È un calcolo aritmetico sulla VRAM registrata, non un benchmark.

2. 02Architettura Ampere

   Architettura

   Ampere

   Anno di lancio

   2020

   Stato del ciclo di vita

   Previous

   Ampere ha portato nei suoi componenti per data center i Tensor Core di terza generazione, la precisione TF32 e la Multi-Instance GPU (MIG). (Contesto generale sull’architettura, non un’affermazione su questa scheda specifica.)

   Lanciato nel 2020. I record di Kovara lo indicano come un componente della generazione precedente.

3. 03Progettato per scalare su più GPU

   NVLink

   Supportato

   MIG

   Non supportato

   Form factor

   PCIe dual-slot

   TDP

   300 W

   NVLink è un collegamento diretto da GPU a GPU. Dove è supportato, le GPU dello stesso server possono scambiarsi dati più velocemente che con il solo PCIe, un aspetto importante quando un singolo job di training è distribuito su più GPU.

   Le schede PCIe si inseriscono negli slot di espansione standard di server e workstation, il che si adatta a un’ampia gamma di sistemi.

   Il TDP è la potenza termica di progetto nominale: il valore di riferimento per l’alimentazione e il raffreddamento in un server.

4. 04A cosa serve

   Utilizzo principale (registrato)

   Graphics / AI / virtual workstation

   Questi sono gli utilizzi che Kovara ha registrato per questo componente. Le note spiegano il carico di lavoro in termini generali; non sono dichiarazioni sulle prestazioni.

   • GraphicsGrafica interattiva e applicazioni professionali di progettazione o ingegneria.
   • AI
   • virtual workstationCondivisione di una GPU tra desktop remoti e workstation virtuali.

Le cifre sono dati anagrafici di Kovara, ultima verifica: 03 set 2026. Le spiegazioni descrivono la tecnologia in generale; non sono benchmark e non dicono nulla su prezzo o disponibilità.