A100 MIG 20GB slice

Specificaties uitgelegd

Gebruikt voor AI training en inference

1. 0120 GB geheugen

   VRAM

   20 GB

   VRAM is de werkruimte op de kaart. Modelgewichten, activaties en datasets moeten erin passen of over meerdere GPU’s worden verdeeld. Vuistregel voor alleen de gewichten bij 16-bit precisie (ongeveer 2 GB per miljard parameters): tot ruwweg 10 miljard parameters, vóór activaties en cache. Dit is een rekensom op basis van het vastgelegde VRAM, geen benchmark.

2. 02Ampere-architectuur

   Architectuur

   Ampere

   Lanceringsjaar

   2020

   Levenscyclusstatus

   Previous

   Ampere bracht Tensor Cores van de derde generatie, TF32-precisie en Multi-Instance GPU (MIG) naar zijn datacenteronderdelen. (Algemene context over de architectuur, geen uitspraak over deze specifieke kaart.)

   Gelanceerd in 2020. De records van Kovara vermelden dit als een onderdeel van de vorige generatie.

3. 03Vermogen en koeling

   MIG

   Ondersteund

   Multi-Instance GPU (MIG) kan één fysieke GPU opdelen in geïsoleerde delen, elk met eigen geheugen en eigen rekenkracht, zodat meerdere kleinere workloads een kaart kunnen delen.

4. 04Waarvoor het wordt gebruikt

   Primair gebruik (vastgelegd)

   AI training / inference

   Dit zijn de toepassingen die Kovara voor dit onderdeel heeft vastgelegd. De toelichtingen beschrijven de workload in algemene termen; het zijn geen prestatieclaims.

   • AI trainingEen model leren op basis van data. Meestal de fase die de meeste rekenkracht en het meeste geheugen vraagt, vaak verdeeld over veel GPU’s.
   • inferenceEen getraind model draaien om verzoeken te beantwoorden. Geheugencapaciteit, latentie en kosten per verzoek zijn de gebruikelijke aandachtspunten.

De cijfers zijn stamgegevens van Kovara, laatst geverifieerd op 25 sep 2026. De toelichtingen beschrijven de technologie in het algemeen; het zijn geen benchmarks en ze zeggen niets over prijs of beschikbaarheid.