A100 40GB SXM

Spesifikasjonene forklart

Brukes til AI training, inference og HPC

1. 0140 GB HBM2-minne

   VRAM

   40 GB

   Minnetype

   HBM2

   Minnebåndbredde

   1.555 TB/s

   HBM (High Bandwidth Memory) er stablet i lag og sitter rett ved siden av prosessoren i samme pakke. Den korte, brede veien er det som gir akseleratorer med HBM minnebåndbredden deres, og derfor velges de vanligvis til arbeid som begrenses av hvor raskt data når kjernene, som inferens med store modeller og HPC-simuleringer.

   VRAM er arbeidsområdet på kortet. Modellvekter, aktiveringer og datasett må få plass i det, eller deles over flere GPU-er. Tommelfingerregel for vektene alene ved 16-biters presisjon (omtrent 2 GB per milliard parametere): opptil om lag 20 milliarder parametere, før aktiveringer og cache. Dette er regning på registrert VRAM, ikke en benchmark.

2. 02Ampere-arkitektur

   Arkitektur

   Ampere

   Lanseringsår

   2020

   Livssyklusstatus

   Previous

   Ampere brakte tredje generasjons tensorkjerner, TF32-presisjon og Multi-Instance GPU (MIG) til datasenterdelene sine. (Generell kontekst om arkitekturen, ikke en påstand om akkurat dette kortet.)

   Lansert i 2020. Kovaras registreringer oppfører den som en del av forrige generasjon.

3. 03Bygget for å skalere over flere GPU-er

   NVLink

   Støttes

   MIG

   Støttes

   Formfaktor

   SXM

   TDP

   400 W

   NVLink er en direkte kobling fra GPU til GPU. Der den støttes, kan GPU-er i samme server utveksle data raskere enn over PCIe alene, noe som betyr mye når én treningsjobb er fordelt over flere GPU-er.

   Multi-Instance GPU (MIG) kan dele én fysisk GPU i isolerte deler, hver med eget minne og egen datakraft, slik at flere mindre arbeidslaster kan dele et kort.

   SXM-moduler monteres direkte på et hovedkort i serveren i stedet for å settes inn som kort, oppsettet som vanligvis brukes i tette servere med flere GPU-er.

   TDP er den oppgitte termiske designeffekten: planleggingstallet for strømforsyning og kjøling i en server.

4. 04Hva den brukes til

   Primær bruk (registrert)

   AI training / inference / HPC

   Dette er bruksområdene Kovara har registrert for denne delen. Merknadene forklarer arbeidslasten i generelle termer; de er ikke påstander om ytelse.

   • AI trainingÅ lære opp en modell fra data. Vanligvis fasen som krever mest datakraft og minne, ofte fordelt over mange GPU-er.
   • inferenceÅ kjøre en trent modell for å besvare forespørsler. Minnekapasitet, forsinkelse og kostnad per forespørsel er de vanlige hensynene.
   • HPCVitenskapelig og teknisk simulering, der numerisk presisjon og minnebåndbredde betyr noe.

Tallene er Kovaras stamdata, sist verifisert 03. sep. 2026. Forklaringene beskriver teknologien generelt; de er ikke benchmarks og sier ingenting om pris eller tilgjengelighet.