T4 16GB

Tekniset tiedot selitettynä

Käyttökohteet: AI inference ja video

1. 0116 GB GDDR6-muistia

   VRAM

   16 GB

   Muistityyppi

   GDDR6

   Muistin kaistanleveys

   0.32 TB/s

   GDDR on grafiikkamuisti, joka on asennettu piirilevylle GPU:n ympärille sen sijaan, että se olisi pinottu samaan pakettiin. Sitä käytetään laajasti grafiikka-, renderöinti- ja kustannustehokkaan inferenssin korteissa.

   VRAM on kortin työtila. Mallin painojen, aktivaatioiden ja datajoukkojen on mahduttava siihen, tai ne on jaettava usealle GPU:lle. Nyrkkisääntö pelkille painoille 16 bitin tarkkuudella (noin 2 GB miljardia parametria kohti): enintään noin 8 miljardia parametria, ennen aktivaatioita ja välimuistia. Tämä on kirjatun VRAM-muistin laskutoimitus, ei vertailuarvo.

2. 02Turing-arkkitehtuuri

   Arkkitehtuuri

   Turing

   Julkaisuvuosi

   2018

   Elinkaaren tila

   Legacy

   Turing lisäsi säteenseurantaytimet ja toisen sukupolven Tensor Core -ytimet. (Yleistä taustaa arkkitehtuurista, ei väite tästä nimenomaisesta kortista.)

   Lanseerattu vuonna 2018. Kovara-alustan tietueissa se on kirjattu vanhan sukupolven komponentiksi.

3. 03Muotokerroin ja sähkönsyöttö

   NVLink

   Ei tuettu

   MIG

   Ei tuettu

   Muotokerroin

   PCIe low-profile single-slot

   TDP

   70 W

   Kovara-alustan tietueet eivät osoita NVLink-tukea, joten tämän komponentin usean GPU:n ajot turvautuvat datan siirrossa PCIe:hen tai palvelinten väliseen verkkoon.

   PCIe-kortit asennetaan palvelinten ja työasemien tavallisiin laajennuspaikkoihin, mikä sopii monenlaisiin järjestelmiin.

   TDP on nimellinen lämpösuunnitteluteho: palvelimen sähkönsyötön ja jäähdytyksen mitoituksessa käytettävä suunnitteluarvo.

4. 04Mihin sitä käytetään

   Pääasiallinen käyttö (kirjattu)

   AI inference / video

   Nämä ovat käyttötarkoitukset, jotka Kovara on kirjannut tälle komponentille. Huomautukset selittävät työkuorman yleisellä tasolla; ne eivät ole suorituskykyväitteitä.

   • AI inferenceKoulutetun mallin ajaminen pyyntöihin vastaamiseksi. Yleensä keskeisiä seikkoja ovat muistikapasiteetti, viive ja kustannus pyyntöä kohti.
   • videoVideon transkoodaus ja videoanalytiikan putkistot.

Luvut ovat Kovara-alustan perustietoja, viimeksi varmennettu 03.9.2026. Selitykset kuvaavat teknologiaa yleisesti; ne eivät ole vertailuarvoja eivätkä kerro mitään hinnasta tai saatavuudesta.