A100 MIG 20GB slice

Specifiche spiegate

Utilizzato per AI training e inference

1. 0120 GB di memoria

   VRAM

   20 GB

   La VRAM è lo spazio di lavoro sulla scheda. Pesi del modello, attivazioni e dataset devono entrarci, oppure essere suddivisi su più GPU. Regola empirica per i soli pesi con precisione a 16 bit (circa 2 GB per miliardo di parametri): fino a circa 10 miliardi di parametri, prima di attivazioni e cache. È un calcolo aritmetico sulla VRAM registrata, non un benchmark.

2. 02Architettura Ampere

   Architettura

   Ampere

   Anno di lancio

   2020

   Stato del ciclo di vita

   Previous

   Ampere ha portato nei suoi componenti per data center i Tensor Core di terza generazione, la precisione TF32 e la Multi-Instance GPU (MIG). (Contesto generale sull’architettura, non un’affermazione su questa scheda specifica.)

   Lanciato nel 2020. I record di Kovara lo indicano come un componente della generazione precedente.

3. 03Alimentazione e raffreddamento

   MIG

   Supportato

   La Multi-Instance GPU (MIG) può suddividere una GPU fisica in porzioni isolate, ciascuna con la propria memoria e la propria capacità di calcolo, così che più carichi di lavoro più piccoli possano condividere una scheda.

4. 04A cosa serve

   Utilizzo principale (registrato)

   AI training / inference

   Questi sono gli utilizzi che Kovara ha registrato per questo componente. Le note spiegano il carico di lavoro in termini generali; non sono dichiarazioni sulle prestazioni.

   • AI trainingL’addestramento di un modello a partire dai dati. Di solito la fase più esigente in termini di capacità di calcolo e di memoria, spesso distribuita su molte GPU.
   • inferenceL’esecuzione di un modello addestrato per rispondere alle richieste. Le preoccupazioni abituali sono la capacità di memoria, la latenza e il costo per richiesta.

Le cifre sono dati anagrafici di Kovara, ultima verifica: 25 set 2026. Le spiegazioni descrivono la tecnologia in generale; non sono benchmark e non dicono nulla su prezzo o disponibilità.