L40 48GB

Характеристики з поясненнями

Використовується для: AI inference, graphics і virtual workstation

1. 0148 GB пам’яті GDDR6

   VRAM

   48 GB

   Тип пам’яті

   GDDR6

   Пропускна здатність пам’яті

   0.864 TB/s

   GDDR — це графічна пам’ять, розміщена на платі навколо GPU, а не складена шарами в корпусі. Її широко використовують у картах для графіки, рендерингу та економного інференсу.

   VRAM — робочий простір на карті. Ваги моделі, активації та набори даних мають уміщатися в ній або розділятися між кількома GPU. Емпіричне правило лише для ваг при 16-бітній точності (близько 2 GB на мільярд параметрів): приблизно до 24 млрд параметрів, без урахування активацій і кешу. Це арифметика на основі зафіксованого обсягу VRAM, а не бенчмарк.

2. 02Архітектура Ada Lovelace

   Архітектура

   Ada Lovelace

   Покоління

   Ada Data Center

   Рік випуску

   2022

   Статус життєвого циклу

   Previous

   Ada Lovelace принесла тензорні ядра четвертого покоління з підтримкою FP8 і ядра трасування променів третього покоління. (Загальний контекст про архітектуру, а не твердження про цю конкретну карту.)

   Випущено в 2022. У записах Kovara це компонент попереднього покоління.

3. 03Форм-фактор і потужність

   NVLink

   Не підтримується

   MIG

   Не підтримується

   Form factor

   PCIe dual-slot FHFL

   TDP

   300 W

   Записи Kovara не показують підтримки NVLink, тож завдання з кількома GPU на цьому компоненті передають дані через PCIe або мережу між серверами.

   Карти PCIe вставляються в стандартні слоти розширення серверів і робочих станцій, що підходить для широкого кола систем.

   TDP — номінальна розрахункова теплова потужність: плановий показник для живлення та охолодження в сервері.

4. 04Для чого використовується

   Основне призначення (зафіксоване)

   AI inference / graphics / virtual workstation

   Це сценарії використання, які Kovara зафіксувала для цього компонента. Примітки описують навантаження загалом; це не заяви про продуктивність.

   • AI inferenceЗапуск навченої моделі для відповіді на запити. Зазвичай важливі обсяг пам’яті, затримка та вартість запиту.
   • graphicsІнтерактивна графіка та професійні застосунки для дизайну чи інженерії.
   • virtual workstationСпільне використання GPU віддаленими робочими столами та віртуальними робочими станціями.

Показники — основні дані Kovara, востаннє перевірені 03 вер. 2026 р.. Пояснення описують технологію загалом; вони не є бенчмарками й нічого не кажуть про ціну чи доступність.