V100 SXM2 16GB — TensorDock provider label

Specifikationerna förklarade

Används för HPC och AI training

1. 0116 GB HBM2-minne

   VRAM

   16 GB

   Minnestyp

   HBM2

   Minnesbandbredd

   0.9 TB/s

   HBM (High Bandwidth Memory) staplas i lager och sitter precis bredvid processorn i samma kapsel. Den korta, breda vägen är det som ger acceleratorer med HBM deras minnesbandbredd, så de väljs oftast för arbete som begränsas av hur snabbt data når kärnorna, till exempel inferens med stora modeller och HPC-simuleringar.

   VRAM är arbetsytan på kortet. Modellvikter, aktiveringar och datamängder måste rymmas i det eller delas upp över flera GPU:er. Tumregel för enbart vikterna vid 16-bitars precision (cirka 2 GB per miljard parametrar): upp till ungefär 8 miljarder parametrar, före aktiveringar och cache. Det här är aritmetik på det registrerade VRAM-värdet, inte en benchmark.

2. 02Arkitekturen Volta

   Arkitektur

   Volta

   Lanseringsår

   2017

   Livscykelstatus

   Legacy

   Volta införde Tensor Cores, dedikerade enheter för matrisberäkningar för djupinlärning. (Allmänt sammanhang om arkitekturen, inte ett påstående om just det här kortet.)

   Lanserad 2017. Enligt Kovaras poster är det en äldre komponent.

3. 03Byggd för att skala över flera GPU:er

   NVLink

   Stöds

   MIG

   Stöds inte

   Formfaktor

   SXM2

   TDP

   300 W

   NVLink är en direkt GPU-till-GPU-länk. Där den stöds kan GPU:er i samma server utbyta data snabbare än enbart via PCIe, vilket spelar roll när ett träningsjobb är fördelat över flera GPU:er.

   SXM-moduler monteras direkt på ett serverbasbord i stället för att sättas i som kort, den layout som vanligtvis används för täta servrar med flera GPU:er.

   TDP är den angivna termiska designeffekten: planeringsvärdet för strömförsörjning och kylning i en server.

4. 04Vad den används till

   Primär användning (registrerad)

   HPC / AI training

   Det här är de användningsområden som Kovara har registrerat för komponenten. Kommentarerna förklarar arbetslasten i allmänna termer; de är inga påståenden om prestanda.

   • HPCVetenskaplig och teknisk simulering, där numerisk precision och minnesbandbredd spelar roll.
   • AI trainingAtt lära upp en modell från data. Oftast den mest beräknings- och minneskrävande fasen, ofta fördelad över många GPU:er.

Värdena är Kovaras masterdata, senast verifierade 25 sep. 2026. Förklaringarna beskriver tekniken i allmänhet; de är inga benchmarks och säger inget om pris eller tillgänglighet.