L40 48GB

Specyfikacje w objaśnieniu

Zastosowania: AI inference, graphics i virtual workstation

1. 0148 GB pamięci GDDR6

   VRAM

   48 GB

   Typ pamięci

   GDDR6

   Przepustowość pamięci

   0.864 TB/s

   GDDR to pamięć graficzna montowana na płycie wokół GPU, a nie w stosach w obudowie. Jest szeroko stosowana w kartach do grafiki, renderowania i ekonomicznej inferencji.

   VRAM to przestrzeń robocza karty. Wagi modelu, aktywacje i zbiory danych muszą się w niej zmieścić albo zostać podzielone między kilka GPU. Praktyczna reguła dla samych wag przy precyzji 16-bitowej (około 2 GB na miliard parametrów): maksymalnie około 24 mld parametrów, przed uwzględnieniem aktywacji i bufora. To arytmetyka na podstawie odnotowanej VRAM, a nie benchmark.

2. 02Architektura Ada Lovelace

   Architektura

   Ada Lovelace

   Generacja

   Ada Data Center

   Rok premiery

   2022

   Status cyklu życia

   Previous

   Ada Lovelace wprowadziła rdzenie Tensor Core czwartej generacji z obsługą FP8 i rdzenie ray tracingu trzeciej generacji. (Ogólny kontekst dotyczący architektury, a nie stwierdzenie o tej konkretnej karcie.)

   Premiera w 2022. Według rekordów Kovara jest to układ poprzedniej generacji.

3. 03Format i zasilanie

   NVLink

   Nieobsługiwane

   MIG

   Nieobsługiwane

   Format

   PCIe dual-slot FHFL

   TDP

   300 W

   Rekordy Kovara nie wykazują obsługi NVLink, więc zadania wielo-GPU na tym układzie przesyłają dane przez PCIe lub sieć między serwerami.

   Karty PCIe montuje się w standardowych gniazdach rozszerzeń serwerów i stacji roboczych, co pasuje do szerokiej gamy systemów.

   TDP to znamionowa moc cieplna: wartość planistyczna dla zasilania i chłodzenia w serwerze.

4. 04Do czego służy

   Główne zastosowanie (odnotowane)

   AI inference / graphics / virtual workstation

   To zastosowania, które Kovara odnotowała dla tego układu. Uwagi wyjaśniają obciążenie w ogólnych kategoriach; nie są deklaracjami wydajności.

   • AI inferenceUruchamianie wytrenowanego modelu w celu obsługi zapytań. Typowe kwestie to pojemność pamięci, opóźnienia i koszt na zapytanie.
   • graphicsInteraktywna grafika i profesjonalne aplikacje projektowe lub inżynierskie.
   • virtual workstationWspółdzielenie GPU między zdalnymi pulpitami i wirtualnymi stacjami roboczymi.

Wartości pochodzą z danych podstawowych Kovara, ostatnia weryfikacja 03 wrz 2026. Objaśnienia opisują technologię ogólnie; nie są benchmarkami i nie mówią nic o cenie ani dostępności.