NVIDIA A100 80GB SXM vs NVIDIA GH200 96GB HBM3
A100 80GB SXM має на 17% менше пам’яті, ніж GH200 96GB HBM3 (80 GB проти 96 GB). Пропускна здатність пам’яті на 49% нижча (2.039 проти 4 TB/s). У хмарі медіанна ціна A100 80GB SXM on-demand становить $1.69 за GPU-hour проти $5.19 для GH200 96GB HBM3. У розрахунку на гігабайт пам’яті GPU це $0.021 проти $0.054 за годину.
Характеристики
Показники виробника в тому вигляді, як їх зафіксувала Kovara. Більший обсяг пам’яті та вищу пропускну здатність виділено; жоден із цих показників не є бенчмарком вашого навантаження.
| A100 80GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Виробник | NVIDIA | NVIDIA |
| Архітектура | Ampere | Hopper + Grace |
| Пам’ять | 80 GB HBM2E | 96 GB HBM3 |
| Пропускна здатність пам’яті | 2.039 TB/s | 4 TB/s |
| Потужність (TDP) | 400 W | 900 W |
| Form factor | SXM | Grace Hopper Superchip |
Хмарні ціни сьогодні
Публічні пропозиції, які відстежує Kovara, у перерахунку на долари США за GPU-hour. Ціни подано за умовами on-demand, де вони є; пропозиції spot і reserved — на цінових сторінках кожного GPU. Нижчу ціну виділено.
| A100 80GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Найнижча ціна | $1.38 | $2.29 |
| Медіанна ціна | $1.69 | $5.19 |
| Найвища ціна | $3.18 | $6.50 |
| Медіана за GB пам’яті | $0.021 | $0.054 |
| Публічні пропозиції (усі умови) | 20 | 5 |
| Провайдери | 9 | 3 |
Де орендувати кожен
Найнижча відстежувана ціна для кожного провайдера. Відкрийте провайдера, щоб побачити всі пропозиції, регіони й умови.
Запитання
Що дешевше орендувати: A100 80GB SXM чи GH200 96GB HBM3?
Зараз найдешевший A100 80GB SXM on-demand, якого відстежує Kovara, коштує $1.38 за GPU-hour, а найдешевший GH200 96GB HBM3 — $2.29. Медіани становлять $1.69 і $5.19. Дешевший за годину GPU не завжди дешевший за завдання: швидший або більший GPU може завершити роботу раніше чи потребувати менше одиниць.
Який має більше пам’яті?
GH200 96GB HBM3 має більше пам’яті: 96 GB проти 80 GB. Пам’ять визначає, які моделі та розміри батчів поміщаються на одному GPU.
Це результати бенчмарків?
Ні. Ця сторінка порівнює специфікації виробника та публічні ціни. Реальна продуктивність залежить від моделі, точності, програмного забезпечення та інтерконекту. Kova може допомогти оцінити вартість для конкретного навантаження.