A10 24GB

Specifiche spiegate

Utilizzato per AI inference, graphics e VDI

1. 0124 GB di memoria GDDR6

   VRAM

   24 GB

   Tipo di memoria

   GDDR6

   Larghezza di banda della memoria

   0.6 TB/s

   La GDDR è una memoria grafica montata sulla scheda attorno alla GPU, anziché impilata sul package. È molto usata sulle schede per grafica, rendering e inferenza a costi contenuti.

   La VRAM è lo spazio di lavoro sulla scheda. Pesi del modello, attivazioni e dataset devono entrarci, oppure essere suddivisi su più GPU. Regola empirica per i soli pesi con precisione a 16 bit (circa 2 GB per miliardo di parametri): fino a circa 12 miliardi di parametri, prima di attivazioni e cache. È un calcolo aritmetico sulla VRAM registrata, non un benchmark.

2. 02Architettura Ampere

   Architettura

   Ampere

   Anno di lancio

   2021

   Stato del ciclo di vita

   Previous

   Ampere ha portato nei suoi componenti per data center i Tensor Core di terza generazione, la precisione TF32 e la Multi-Instance GPU (MIG). (Contesto generale sull’architettura, non un’affermazione su questa scheda specifica.)

   Lanciato nel 2021. I record di Kovara lo indicano come un componente della generazione precedente.

3. 03Form factor e alimentazione

   NVLink

   Non supportato

   MIG

   Non supportato

   Form factor

   PCIe single-slot FHFL

   TDP

   150 W

   I record di Kovara non indicano alcun supporto NVLink, quindi i job multi-GPU su questo componente si affidano a PCIe o alla rete tra i server per spostare i dati.

   Le schede PCIe si inseriscono negli slot di espansione standard di server e workstation, il che si adatta a un’ampia gamma di sistemi.

   Il TDP è la potenza termica di progetto nominale: il valore di riferimento per l’alimentazione e il raffreddamento in un server.

4. 04A cosa serve

   Utilizzo principale (registrato)

   AI inference / graphics / VDI

   Questi sono gli utilizzi che Kovara ha registrato per questo componente. Le note spiegano il carico di lavoro in termini generali; non sono dichiarazioni sulle prestazioni.

   • AI inferenceL’esecuzione di un modello addestrato per rispondere alle richieste. Le preoccupazioni abituali sono la capacità di memoria, la latenza e il costo per richiesta.
   • graphicsGrafica interattiva e applicazioni professionali di progettazione o ingegneria.
   • VDICondivisione di una GPU tra desktop remoti e workstation virtuali.

Le cifre sono dati anagrafici di Kovara, ultima verifica: 03 set 2026. Le spiegazioni descrivono la tecnologia in generale; non sono benchmark e non dicono nulla su prezzo o disponibilità.