Instinct MI455X 432GB

Характеристики з поясненнями

Використовується для: AI training і inference

1. 01432 GB пам’яті HBM4

   VRAM

   432 GB

   Тип пам’яті

   HBM4

   Пропускна здатність пам’яті

   23.3 TB/s

   HBM (пам’ять із високою пропускною здатністю) складається з шарів і розташована безпосередньо поруч із процесором в одному корпусі. Саме цей короткий і широкий шлях дає прискорювачам з HBM їхню пропускну здатність пам’яті, тож їх зазвичай обирають для роботи, обмеженої тим, як швидко дані доходять до ядер, як-от інференс великих моделей і HPC-симуляції.

   VRAM — робочий простір на карті. Ваги моделі, активації та набори даних мають уміщатися в ній або розділятися між кількома GPU. Емпіричне правило лише для ваг при 16-бітній точності (близько 2 GB на мільярд параметрів): приблизно до 216 млрд параметрів, без урахування активацій і кешу. Це арифметика на основі зафіксованого обсягу VRAM, а не бенчмарк.

2. 02Архітектура CDNA 5

   Архітектура

   CDNA 5

   Покоління

   Instinct MI400

   Рік випуску

   2026

   Статус життєвого циклу

   Current

   CDNA — орієнтована на обчислення архітектура AMD для прискорювачів Instinct, окрема від графічної лінійки RDNA. (Загальний контекст про архітектуру, а не твердження про цю конкретну карту.)

   Випущено в 2026. У записах Kovara це компонент поточного покоління.

3. 03Form factor

   Form factor

   Enhanced Accelerator Module (EAM)

   Модулі прискорювачів монтуються на базову плату, а не вставляються як карти; таке компонування використовують у щільних серверах із кількома прискорювачами.

4. 04Для чого використовується

   Основне призначення (зафіксоване)

   AI training / inference

   Це сценарії використання, які Kovara зафіксувала для цього компонента. Примітки описують навантаження загалом; це не заяви про продуктивність.

   • AI trainingНавчання моделі на даних. Зазвичай найвибагливіший до обчислень і пам’яті етап, який часто розподіляють між багатьма GPU.
   • inferenceЗапуск навченої моделі для відповіді на запити. Зазвичай важливі обсяг пам’яті, затримка та вартість запиту.

Показники — основні дані Kovara, востаннє перевірені 03 вер. 2026 р.. Пояснення описують технологію загалом; вони не є бенчмарками й нічого не кажуть про ціну чи доступність.