A40 48GB

Tekniset tiedot selitettynä

Käyttökohteet: Graphics, AI ja virtual workstation

1. 0148 GB GDDR6-muistia

   VRAM

   48 GB

   Muistityyppi

   GDDR6

   Muistin kaistanleveys

   0.696 TB/s

   GDDR on grafiikkamuisti, joka on asennettu piirilevylle GPU:n ympärille sen sijaan, että se olisi pinottu samaan pakettiin. Sitä käytetään laajasti grafiikka-, renderöinti- ja kustannustehokkaan inferenssin korteissa.

   VRAM on kortin työtila. Mallin painojen, aktivaatioiden ja datajoukkojen on mahduttava siihen, tai ne on jaettava usealle GPU:lle. Nyrkkisääntö pelkille painoille 16 bitin tarkkuudella (noin 2 GB miljardia parametria kohti): enintään noin 24 miljardia parametria, ennen aktivaatioita ja välimuistia. Tämä on kirjatun VRAM-muistin laskutoimitus, ei vertailuarvo.

2. 02Ampere-arkkitehtuuri

   Arkkitehtuuri

   Ampere

   Julkaisuvuosi

   2020

   Elinkaaren tila

   Previous

   Ampere toi datakeskuskomponentteihinsa kolmannen sukupolven Tensor Core -ytimet, TF32-tarkkuuden ja Multi-Instance GPU -ominaisuuden (MIG). (Yleistä taustaa arkkitehtuurista, ei väite tästä nimenomaisesta kortista.)

   Lanseerattu vuonna 2020. Kovara-alustan tietueissa se on kirjattu edellisen sukupolven komponentiksi.

3. 03Suunniteltu skaalautumaan usealle GPU:lle

   NVLink

   Tuettu

   MIG

   Ei tuettu

   Muotokerroin

   PCIe dual-slot

   TDP

   300 W

   NVLink on suora GPU:sta GPU:hun kulkeva yhteys. Missä se on tuettu, saman palvelimen GPU:t voivat vaihtaa dataa nopeammin kuin pelkän PCIe:n kautta, millä on merkitystä, kun yksi koulutusajo jakautuu usealle GPU:lle.

   PCIe-kortit asennetaan palvelinten ja työasemien tavallisiin laajennuspaikkoihin, mikä sopii monenlaisiin järjestelmiin.

   TDP on nimellinen lämpösuunnitteluteho: palvelimen sähkönsyötön ja jäähdytyksen mitoituksessa käytettävä suunnitteluarvo.

4. 04Mihin sitä käytetään

   Pääasiallinen käyttö (kirjattu)

   Graphics / AI / virtual workstation

   Nämä ovat käyttötarkoitukset, jotka Kovara on kirjannut tälle komponentille. Huomautukset selittävät työkuorman yleisellä tasolla; ne eivät ole suorituskykyväitteitä.

   • GraphicsInteraktiivinen grafiikka sekä ammattimaiset suunnittelu- tai insinöörisovellukset.
   • AI
   • virtual workstationGPU:n jakaminen etätyöpöytien ja virtuaalisten työasemien kesken.

Luvut ovat Kovara-alustan perustietoja, viimeksi varmennettu 03.9.2026. Selitykset kuvaavat teknologiaa yleisesti; ne eivät ole vertailuarvoja eivätkä kerro mitään hinnasta tai saatavuudesta.