H100 NVL 94GB

Характеристики з поясненнями

Використовується для: AI Training, AI Inference і HPC

1. 0194 GB пам’яті HBM3

   VRAM

   94 GB

   Тип пам’яті

   HBM3

   Пропускна здатність пам’яті

   3.9 TB/s

   HBM (пам’ять із високою пропускною здатністю) складається з шарів і розташована безпосередньо поруч із процесором в одному корпусі. Саме цей короткий і широкий шлях дає прискорювачам з HBM їхню пропускну здатність пам’яті, тож їх зазвичай обирають для роботи, обмеженої тим, як швидко дані доходять до ядер, як-от інференс великих моделей і HPC-симуляції.

   VRAM — робочий простір на карті. Ваги моделі, активації та набори даних мають уміщатися в ній або розділятися між кількома GPU. Емпіричне правило лише для ваг при 16-бітній точності (близько 2 GB на мільярд параметрів): приблизно до 47 млрд параметрів, без урахування активацій і кешу. Це арифметика на основі зафіксованого обсягу VRAM, а не бенчмарк.

2. 02Архітектура Hopper

   Архітектура

   Hopper

   Рік випуску

   2023

   Статус життєвого циклу

   Previous Generation

   Hopper додала Transformer Engine, що поєднує обчислення FP8 і 16-бітні обчислення для моделей-трансформерів, а також тензорні ядра четвертого покоління. (Загальний контекст про архітектуру, а не твердження про цю конкретну карту.)

   Випущено в 2023. У записах Kovara це компонент попереднього покоління.

3. 03Створено для масштабування на кілька GPU

   NVLink

   Підтримується

   MIG

   Підтримується

   Form factor

   PCIe

   TDP

   400 W

   NVLink — пряме з’єднання GPU-GPU. Там, де воно підтримується, GPU в одному сервері обмінюються даними швидше, ніж лише через PCIe, що важливо, коли одне навчальне завдання розподілено між кількома GPU.

   Multi-Instance GPU (MIG) може ділити один фізичний GPU на ізольовані частини, кожна з власною пам’яттю та обчислювальними ресурсами, щоб кілька менших навантажень могли спільно використовувати карту.

   Карти PCIe вставляються в стандартні слоти розширення серверів і робочих станцій, що підходить для широкого кола систем.

   TDP — номінальна розрахункова теплова потужність: плановий показник для живлення та охолодження в сервері.

4. 04Для чого використовується

   Основне призначення (зафіксоване)

   AI Training, AI Inference, HPC

   Це сценарії використання, які Kovara зафіксувала для цього компонента. Примітки описують навантаження загалом; це не заяви про продуктивність.

   • AI TrainingНавчання моделі на даних. Зазвичай найвибагливіший до обчислень і пам’яті етап, який часто розподіляють між багатьма GPU.
   • AI InferenceЗапуск навченої моделі для відповіді на запити. Зазвичай важливі обсяг пам’яті, затримка та вартість запиту.
   • HPCНаукове й інженерне моделювання, де важать числова точність і пропускна здатність пам’яті.

Показники — основні дані Kovara, востаннє перевірені 30 серп. 2026 р.. Пояснення описують технологію загалом; вони не є бенчмарками й нічого не кажуть про ціну чи доступність.