V100 16GB PCIe

Specifikationerne forklaret

Bruges til HPC og AI training

1. 0116 GB HBM2-hukommelse

   VRAM

   16 GB

   Hukommelsestype

   HBM2

   Hukommelsesbåndbredde

   0.9 TB/s

   HBM (High Bandwidth Memory) er stablet i lag og sidder lige ved siden af processoren i samme pakke. Den korte, brede forbindelse er det, der giver acceleratorer med HBM deres hukommelsesbåndbredde, så de vælges typisk til arbejde, der er begrænset af, hvor hurtigt data når frem til kernerne, f.eks. inferens med store modeller og HPC-simulering.

   VRAM er arbejdsområdet på kortet. Modelvægte, aktiveringer og datasæt skal kunne være der eller fordeles på flere GPU’er. Tommelfingerregel for vægtene alene ved 16-bit præcision (ca. 2 GB pr. milliard parametre): op til omkring 8 milliarder parametre, før aktiveringer og cache. Det er en beregning på den registrerede VRAM, ikke en benchmark.

2. 02Volta-arkitektur

   Arkitektur

   Volta

   Lanceringsår

   2017

   Livscyklusstatus

   Legacy

   Volta introducerede Tensor Cores, dedikerede enheder til matrixberegninger til deep learning. (Generel kontekst om arkitekturen, ikke et udsagn om dette specifikke kort.)

   Lanceret i 2017. Kovaras poster angiver den som en ældre del.

3. 03Formfaktor og effekt

   NVLink

   Ikke understøttet

   MIG

   Ikke understøttet

   Formfaktor

   PCIe dual-slot FHHL

   TDP

   250 W

   Kovaras poster viser ingen understøttelse af NVLink, så job med flere GPU’er på denne komponent er afhængige af PCIe eller netværket mellem servere for at flytte data.

   PCIe-kort sættes i almindelige udvidelsesstik i servere og workstations, hvilket passer til en bred vifte af systemer.

   TDP er den nominelle thermal design power: planlægningstallet for strømforsyning og køling i en server.

4. 04Hvad den bruges til

   Primær anvendelse (registreret)

   HPC / AI training

   Det er de anvendelser, Kovara har registreret for denne komponent. Noterne forklarer workloaden i generelle vendinger; de er ikke påstande om ydeevne.

   • HPCVidenskabelig og teknisk simulering, hvor numerisk præcision og hukommelsesbåndbredde har betydning.
   • AI trainingAt lære en model op fra data. Som regel den fase, der kræver mest regnekraft og hukommelse, ofte fordelt på mange GPU’er.

Tallene er Kovaras stamdata, senest verificeret 25. sep. 2026. Forklaringerne beskriver teknologien generelt; de er ikke benchmarks og siger intet om pris eller tilgængelighed.