V100S 32GB PCIe

Tekniset tiedot selitettynä

Käyttökohteet: HPC ja AI training

1. 0132 GB HBM2-muistia

   VRAM

   32 GB

   Muistityyppi

   HBM2

   Muistin kaistanleveys

   1.134 TB/s

   HBM (High Bandwidth Memory) on pinottu kerroksiin ja sijaitsee aivan suorittimen vieressä samassa paketissa. Tämä lyhyt ja leveä väylä antaa HBM-muistilla varustetuille kiihdyttimille niiden muistin kaistanleveyden, minkä vuoksi ne valitaan yleensä töihin, joita rajoittaa se, kuinka nopeasti data pääsee ytimille, kuten suurten mallien inferenssiin ja HPC-simulaatioon.

   VRAM on kortin työtila. Mallin painojen, aktivaatioiden ja datajoukkojen on mahduttava siihen, tai ne on jaettava usealle GPU:lle. Nyrkkisääntö pelkille painoille 16 bitin tarkkuudella (noin 2 GB miljardia parametria kohti): enintään noin 16 miljardia parametria, ennen aktivaatioita ja välimuistia. Tämä on kirjatun VRAM-muistin laskutoimitus, ei vertailuarvo.

2. 02Volta-arkkitehtuuri

   Arkkitehtuuri

   Volta

   Julkaisuvuosi

   2019

   Elinkaaren tila

   Legacy

   Volta toi mukanaan Tensor Core -ytimet, syväoppimiseen tarkoitetut matriisilaskennan yksiköt. (Yleistä taustaa arkkitehtuurista, ei väite tästä nimenomaisesta kortista.)

   Lanseerattu vuonna 2019. Kovara-alustan tietueissa se on kirjattu vanhan sukupolven komponentiksi.

3. 03Muotokerroin ja sähkönsyöttö

   NVLink

   Ei tuettu

   MIG

   Ei tuettu

   Muotokerroin

   PCIe dual-slot FHHL

   TDP

   250 W

   Kovara-alustan tietueet eivät osoita NVLink-tukea, joten tämän komponentin usean GPU:n ajot turvautuvat datan siirrossa PCIe:hen tai palvelinten väliseen verkkoon.

   PCIe-kortit asennetaan palvelinten ja työasemien tavallisiin laajennuspaikkoihin, mikä sopii monenlaisiin järjestelmiin.

   TDP on nimellinen lämpösuunnitteluteho: palvelimen sähkönsyötön ja jäähdytyksen mitoituksessa käytettävä suunnitteluarvo.

4. 04Mihin sitä käytetään

   Pääasiallinen käyttö (kirjattu)

   HPC / AI training

   Nämä ovat käyttötarkoitukset, jotka Kovara on kirjannut tälle komponentille. Huomautukset selittävät työkuorman yleisellä tasolla; ne eivät ole suorituskykyväitteitä.

   • HPCTieteellinen ja tekninen simulaatio, jossa numeerinen tarkkuus ja muistin kaistanleveys ovat tärkeitä.
   • AI trainingMallin opettaminen datasta. Yleensä eniten laskentakapasiteettia ja muistia vaativa vaihe, joka on usein jaettu monelle GPU:lle.

Luvut ovat Kovara-alustan perustietoja, viimeksi varmennettu 03.9.2026. Selitykset kuvaavat teknologiaa yleisesti; ne eivät ole vertailuarvoja eivätkä kerro mitään hinnasta tai saatavuudesta.