L40 48GB

Tekniset tiedot selitettynä

Käyttökohteet: AI inference, graphics ja virtual workstation

1. 0148 GB GDDR6-muistia

   VRAM

   48 GB

   Muistityyppi

   GDDR6

   Muistin kaistanleveys

   0.864 TB/s

   GDDR on grafiikkamuisti, joka on asennettu piirilevylle GPU:n ympärille sen sijaan, että se olisi pinottu samaan pakettiin. Sitä käytetään laajasti grafiikka-, renderöinti- ja kustannustehokkaan inferenssin korteissa.

   VRAM on kortin työtila. Mallin painojen, aktivaatioiden ja datajoukkojen on mahduttava siihen, tai ne on jaettava usealle GPU:lle. Nyrkkisääntö pelkille painoille 16 bitin tarkkuudella (noin 2 GB miljardia parametria kohti): enintään noin 24 miljardia parametria, ennen aktivaatioita ja välimuistia. Tämä on kirjatun VRAM-muistin laskutoimitus, ei vertailuarvo.

2. 02Ada Lovelace-arkkitehtuuri

   Arkkitehtuuri

   Ada Lovelace

   Sukupolvi

   Ada Data Center

   Julkaisuvuosi

   2022

   Elinkaaren tila

   Previous

   Ada Lovelace toi neljännen sukupolven Tensor Core -ytimet FP8-tuella sekä kolmannen sukupolven säteenseurantaytimet. (Yleistä taustaa arkkitehtuurista, ei väite tästä nimenomaisesta kortista.)

   Lanseerattu vuonna 2022. Kovara-alustan tietueissa se on kirjattu edellisen sukupolven komponentiksi.

3. 03Muotokerroin ja sähkönsyöttö

   NVLink

   Ei tuettu

   MIG

   Ei tuettu

   Muotokerroin

   PCIe dual-slot FHFL

   TDP

   300 W

   Kovara-alustan tietueet eivät osoita NVLink-tukea, joten tämän komponentin usean GPU:n ajot turvautuvat datan siirrossa PCIe:hen tai palvelinten väliseen verkkoon.

   PCIe-kortit asennetaan palvelinten ja työasemien tavallisiin laajennuspaikkoihin, mikä sopii monenlaisiin järjestelmiin.

   TDP on nimellinen lämpösuunnitteluteho: palvelimen sähkönsyötön ja jäähdytyksen mitoituksessa käytettävä suunnitteluarvo.

4. 04Mihin sitä käytetään

   Pääasiallinen käyttö (kirjattu)

   AI inference / graphics / virtual workstation

   Nämä ovat käyttötarkoitukset, jotka Kovara on kirjannut tälle komponentille. Huomautukset selittävät työkuorman yleisellä tasolla; ne eivät ole suorituskykyväitteitä.

   • AI inferenceKoulutetun mallin ajaminen pyyntöihin vastaamiseksi. Yleensä keskeisiä seikkoja ovat muistikapasiteetti, viive ja kustannus pyyntöä kohti.
   • graphicsInteraktiivinen grafiikka sekä ammattimaiset suunnittelu- tai insinöörisovellukset.
   • virtual workstationGPU:n jakaminen etätyöpöytien ja virtuaalisten työasemien kesken.

Luvut ovat Kovara-alustan perustietoja, viimeksi varmennettu 03.9.2026. Selitykset kuvaavat teknologiaa yleisesti; ne eivät ole vertailuarvoja eivätkä kerro mitään hinnasta tai saatavuudesta.