NVIDIA H100 SXM vs NVIDIA H200 SXM
H100 SXM має на 43% менше пам’яті, ніж H200 SXM (80 GB проти 141 GB). Пропускна здатність пам’яті на 30% нижча (3.35 проти 4.8 TB/s). У хмарі медіанна ціна H100 SXM on-demand становить $3.85 за GPU-hour проти $4.47 для H200 SXM. У розрахунку на гігабайт пам’яті GPU це $0.048 проти $0.032 за годину.
Характеристики
Показники виробника в тому вигляді, як їх зафіксувала Kovara. Більший обсяг пам’яті та вищу пропускну здатність виділено; жоден із цих показників не є бенчмарком вашого навантаження.
| H100 SXM | H200 SXM | |
|---|---|---|
| Виробник | NVIDIA | NVIDIA |
| Архітектура | Hopper | Hopper |
| Пам’ять | 80 GB HBM3 | 141 GB HBM3E |
| Пропускна здатність пам’яті | 3.35 TB/s | 4.8 TB/s |
| Потужність (TDP) | 700 W | 700 W |
| Form factor | SXM | SXM |
Хмарні ціни сьогодні
Публічні пропозиції, які відстежує Kovara, у перерахунку на долари США за GPU-hour. Ціни подано за умовами on-demand, де вони є; пропозиції spot і reserved — на цінових сторінках кожного GPU. Нижчу ціну виділено.
| H100 SXM | H200 SXM | |
|---|---|---|
| Найнижча ціна | $1.99 | $2.60 |
| Медіанна ціна | $3.85 | $4.47 |
| Найвища ціна | $12.29 | $10.60 |
| Медіана за GB пам’яті | $0.048 | $0.032 |
| Публічні пропозиції (усі умови) | 59 | 41 |
| Провайдери | 21 | 14 |
Де орендувати кожен
Найнижча відстежувана ціна для кожного провайдера. Відкрийте провайдера, щоб побачити всі пропозиції, регіони й умови.
Запитання
Що дешевше орендувати: H100 SXM чи H200 SXM?
Зараз найдешевший H100 SXM on-demand, якого відстежує Kovara, коштує $1.99 за GPU-hour, а найдешевший H200 SXM — $2.60. Медіани становлять $3.85 і $4.47. Дешевший за годину GPU не завжди дешевший за завдання: швидший або більший GPU може завершити роботу раніше чи потребувати менше одиниць.
Який має більше пам’яті?
H200 SXM має більше пам’яті: 141 GB проти 80 GB. Пам’ять визначає, які моделі та розміри батчів поміщаються на одному GPU.
Це результати бенчмарків?
Ні. Ця сторінка порівнює специфікації виробника та публічні ціни. Реальна продуктивність залежить від моделі, точності, програмного забезпечення та інтерконекту. Kova може допомогти оцінити вартість для конкретного навантаження.