A100 MIG 20GB slice

Specifikationerne forklaret

Bruges til AI training og inference

1. 0120 GB hukommelse

   VRAM

   20 GB

   VRAM er arbejdsområdet på kortet. Modelvægte, aktiveringer og datasæt skal kunne være der eller fordeles på flere GPU’er. Tommelfingerregel for vægtene alene ved 16-bit præcision (ca. 2 GB pr. milliard parametre): op til omkring 10 milliarder parametre, før aktiveringer og cache. Det er en beregning på den registrerede VRAM, ikke en benchmark.

2. 02Ampere-arkitektur

   Arkitektur

   Ampere

   Lanceringsår

   2020

   Livscyklusstatus

   Previous

   Ampere bragte tredje generation af Tensor Cores, TF32-præcision og Multi-Instance GPU (MIG) til sine datacenterkomponenter. (Generel kontekst om arkitekturen, ikke et udsagn om dette specifikke kort.)

   Lanceret i 2020. Kovaras poster angiver den som en del af den forrige generation.

3. 03Effekt og køling

   MIG

   Understøttet

   Multi-Instance GPU (MIG) kan opdele én fysisk GPU i isolerede dele, hver med sin egen hukommelse og regnekraft, så flere mindre workloads kan dele et kort.

4. 04Hvad den bruges til

   Primær anvendelse (registreret)

   AI training / inference

   Det er de anvendelser, Kovara har registreret for denne komponent. Noterne forklarer workloaden i generelle vendinger; de er ikke påstande om ydeevne.

   • AI trainingAt lære en model op fra data. Som regel den fase, der kræver mest regnekraft og hukommelse, ofte fordelt på mange GPU’er.
   • inferenceKørsel af en trænet model for at besvare forespørgsler. Hukommelseskapacitet, latenstid og omkostning pr. forespørgsel er de typiske hensyn.

Tallene er Kovaras stamdata, senest verificeret 25. sep. 2026. Forklaringerne beskriver teknologien generelt; de er ikke benchmarks og siger intet om pris eller tilgængelighed.