L4 24GB

Tekniset tiedot selitettynä

Käyttökohteet: AI inference, video ja graphics

1. 0124 GB GDDR6-muistia

   VRAM

   24 GB

   Muistityyppi

   GDDR6

   Muistin kaistanleveys

   0.3 TB/s

   GDDR on grafiikkamuisti, joka on asennettu piirilevylle GPU:n ympärille sen sijaan, että se olisi pinottu samaan pakettiin. Sitä käytetään laajasti grafiikka-, renderöinti- ja kustannustehokkaan inferenssin korteissa.

   VRAM on kortin työtila. Mallin painojen, aktivaatioiden ja datajoukkojen on mahduttava siihen, tai ne on jaettava usealle GPU:lle. Nyrkkisääntö pelkille painoille 16 bitin tarkkuudella (noin 2 GB miljardia parametria kohti): enintään noin 12 miljardia parametria, ennen aktivaatioita ja välimuistia. Tämä on kirjatun VRAM-muistin laskutoimitus, ei vertailuarvo.

2. 02Ada Lovelace-arkkitehtuuri

   Arkkitehtuuri

   Ada Lovelace

   Sukupolvi

   Ada

   Julkaisuvuosi

   2023

   Elinkaaren tila

   Current

   Ada Lovelace toi neljännen sukupolven Tensor Core -ytimet FP8-tuella sekä kolmannen sukupolven säteenseurantaytimet. (Yleistä taustaa arkkitehtuurista, ei väite tästä nimenomaisesta kortista.)

   Lanseerattu vuonna 2023. Kovara-alustan tietueissa se on kirjattu nykyisen sukupolven komponentiksi.

3. 03Muotokerroin ja sähkönsyöttö

   NVLink

   Ei tuettu

   MIG

   Ei tuettu

   Muotokerroin

   PCIe low-profile single-slot

   TDP

   72 W

   Kovara-alustan tietueet eivät osoita NVLink-tukea, joten tämän komponentin usean GPU:n ajot turvautuvat datan siirrossa PCIe:hen tai palvelinten väliseen verkkoon.

   PCIe-kortit asennetaan palvelinten ja työasemien tavallisiin laajennuspaikkoihin, mikä sopii monenlaisiin järjestelmiin.

   TDP on nimellinen lämpösuunnitteluteho: palvelimen sähkönsyötön ja jäähdytyksen mitoituksessa käytettävä suunnitteluarvo.

4. 04Mihin sitä käytetään

   Pääasiallinen käyttö (kirjattu)

   AI inference / video / graphics

   Nämä ovat käyttötarkoitukset, jotka Kovara on kirjannut tälle komponentille. Huomautukset selittävät työkuorman yleisellä tasolla; ne eivät ole suorituskykyväitteitä.

   • AI inferenceKoulutetun mallin ajaminen pyyntöihin vastaamiseksi. Yleensä keskeisiä seikkoja ovat muistikapasiteetti, viive ja kustannus pyyntöä kohti.
   • videoVideon transkoodaus ja videoanalytiikan putkistot.
   • graphicsInteraktiivinen grafiikka sekä ammattimaiset suunnittelu- tai insinöörisovellukset.

Luvut ovat Kovara-alustan perustietoja, viimeksi varmennettu 03.9.2026. Selitykset kuvaavat teknologiaa yleisesti; ne eivät ole vertailuarvoja eivätkä kerro mitään hinnasta tai saatavuudesta.