H100 SXM

Specificaties uitgelegd

Gebruikt voor AI Training, AI Inference en HPC

1. 0180 GB HBM3-geheugen

   VRAM

   80 GB

   Geheugentype

   HBM3

   Geheugenbandbreedte

   3.35 TB/s

   HBM (High Bandwidth Memory) is in lagen gestapeld en zit direct naast de processor in dezelfde behuizing. Dat korte, brede pad geeft accelerators met HBM hun geheugenbandbreedte, en daarom worden ze meestal gekozen voor werk dat wordt begrensd door hoe snel data de cores bereikt, zoals inferentie met grote modellen en HPC-simulaties.

   VRAM is de werkruimte op de kaart. Modelgewichten, activaties en datasets moeten erin passen of over meerdere GPU’s worden verdeeld. Vuistregel voor alleen de gewichten bij 16-bit precisie (ongeveer 2 GB per miljard parameters): tot ruwweg 40 miljard parameters, vóór activaties en cache. Dit is een rekensom op basis van het vastgelegde VRAM, geen benchmark.

2. 02Hopper-architectuur

   Architectuur

   Hopper

   Lanceringsjaar

   2022

   Levenscyclusstatus

   Previous Generation

   Hopper voegde de Transformer Engine toe, die FP8- en 16-bit-berekeningen combineert voor transformer-modellen, en Tensor Cores van de vierde generatie. (Algemene context over de architectuur, geen uitspraak over deze specifieke kaart.)

   Gelanceerd in 2022. De records van Kovara vermelden dit als een onderdeel van de vorige generatie.

3. 03Gebouwd om over GPU’s te schalen

   NVLink

   Ondersteund

   MIG

   Ondersteund

   Vormfactor

   SXM

   TDP

   700 W

   NVLink is een directe GPU-naar-GPU-verbinding. Waar het wordt ondersteund, kunnen GPU’s in dezelfde server sneller data uitwisselen dan alleen via PCIe, wat ertoe doet wanneer één trainingstaak over meerdere GPU’s is verdeeld.

   Multi-Instance GPU (MIG) kan één fysieke GPU opdelen in geïsoleerde delen, elk met eigen geheugen en eigen rekenkracht, zodat meerdere kleinere workloads een kaart kunnen delen.

   SXM-modules worden rechtstreeks op een serverbaseboard gemonteerd in plaats van als kaarten in een slot gestoken, de opbouw die doorgaans wordt gebruikt voor compacte servers met meerdere GPU’s.

   TDP is het nominale thermische ontwerpvermogen: het planningscijfer voor stroomvoorziening en koeling in een server.

4. 04Waarvoor het wordt gebruikt

   Primair gebruik (vastgelegd)

   AI Training, AI Inference, HPC

   Dit zijn de toepassingen die Kovara voor dit onderdeel heeft vastgelegd. De toelichtingen beschrijven de workload in algemene termen; het zijn geen prestatieclaims.

   • AI TrainingEen model leren op basis van data. Meestal de fase die de meeste rekenkracht en het meeste geheugen vraagt, vaak verdeeld over veel GPU’s.
   • AI InferenceEen getraind model draaien om verzoeken te beantwoorden. Geheugencapaciteit, latentie en kosten per verzoek zijn de gebruikelijke aandachtspunten.
   • HPCWetenschappelijke en technische simulatie, waarbij numerieke precisie en geheugenbandbreedte ertoe doen.

De cijfers zijn stamgegevens van Kovara, laatst geverifieerd op 30 aug 2026. De toelichtingen beschrijven de technologie in het algemeen; het zijn geen benchmarks en ze zeggen niets over prijs of beschikbaarheid.