A800 40GB Active

Specifikationerna förklarade

Används för AI, data science och HPC workstation

1. 0140 GB HBM2-minne

   VRAM

   40 GB

   Minnestyp

   HBM2

   Minnesbandbredd

   1.555 TB/s

   HBM (High Bandwidth Memory) staplas i lager och sitter precis bredvid processorn i samma kapsel. Den korta, breda vägen är det som ger acceleratorer med HBM deras minnesbandbredd, så de väljs oftast för arbete som begränsas av hur snabbt data når kärnorna, till exempel inferens med stora modeller och HPC-simuleringar.

   VRAM är arbetsytan på kortet. Modellvikter, aktiveringar och datamängder måste rymmas i det eller delas upp över flera GPU:er. Tumregel för enbart vikterna vid 16-bitars precision (cirka 2 GB per miljard parametrar): upp till ungefär 20 miljarder parametrar, före aktiveringar och cache. Det här är aritmetik på det registrerade VRAM-värdet, inte en benchmark.

2. 02Arkitekturen Ampere

   Arkitektur

   Ampere

   Lanseringsår

   2023

   Livscykelstatus

   Previous

   Ampere gav sina datacenterkomponenter tredje generationens Tensor Cores, TF32-precision och Multi-Instance GPU (MIG). (Allmänt sammanhang om arkitekturen, inte ett påstående om just det här kortet.)

   Lanserad 2023. Enligt Kovaras poster är det en komponent av föregående generation.

3. 03Byggd för att skala över flera GPU:er

   NVLink

   Stöds

   MIG

   Stöds

   Formfaktor

   PCIe dual-slot active

   TDP

   240 W

   NVLink är en direkt GPU-till-GPU-länk. Där den stöds kan GPU:er i samma server utbyta data snabbare än enbart via PCIe, vilket spelar roll när ett träningsjobb är fördelat över flera GPU:er.

   Multi-Instance GPU (MIG) kan dela upp en fysisk GPU i isolerade delar, var och en med eget minne och egen beräkningskapacitet, så att flera mindre arbetslaster kan dela på ett kort.

   PCIe-kort sätts i vanliga expansionsplatser i servrar och arbetsstationer, vilket passar ett brett spektrum av system.

   TDP är den angivna termiska designeffekten: planeringsvärdet för strömförsörjning och kylning i en server.

4. 04Vad den används till

   Primär användning (registrerad)

   AI / data science / HPC workstation

   Det här är de användningsområden som Kovara har registrerat för komponenten. Kommentarerna förklarar arbetslasten i allmänna termer; de är inga påståenden om prestanda.

   • AI
   • data scienceSnabbare analys och klassisk maskininlärning på stora datamängder.
   • HPC workstationVetenskaplig och teknisk simulering, där numerisk precision och minnesbandbredd spelar roll.

Värdena är Kovaras masterdata, senast verifierade 03 sep. 2026. Förklaringarna beskriver tekniken i allmänhet; de är inga benchmarks och säger inget om pris eller tillgänglighet.