NVIDIA GH200 96GB HBM3 vs NVIDIA RTX A4000 16GB
GH200 96GB HBM3 має на 500% більше пам’яті, ніж RTX A4000 16GB (96 GB проти 16 GB). Пропускна здатність пам’яті на 793% вища (4 проти 0.448 TB/s). У хмарі медіанна ціна GH200 96GB HBM3 on-demand становить $5.19 за GPU-hour проти $0.76 для RTX A4000 16GB. У розрахунку на гігабайт пам’яті GPU це $0.054 проти $0.048 за годину.
Характеристики
Показники виробника в тому вигляді, як їх зафіксувала Kovara. Більший обсяг пам’яті та вищу пропускну здатність виділено; жоден із цих показників не є бенчмарком вашого навантаження.
| GH200 96GB HBM3 | RTX A4000 16GB | |
|---|---|---|
| Виробник | NVIDIA | NVIDIA |
| Архітектура | Hopper + Grace | Ampere |
| Пам’ять | 96 GB HBM3 | 16 GB GDDR6 |
| Пропускна здатність пам’яті | 4 TB/s | 0.448 TB/s |
| Потужність (TDP) | 900 W | 140 W |
| Form factor | Grace Hopper Superchip | PCIe single-slot |
Хмарні ціни сьогодні
Публічні пропозиції, які відстежує Kovara, у перерахунку на долари США за GPU-hour. Ціни подано за умовами on-demand, де вони є; пропозиції spot і reserved — на цінових сторінках кожного GPU. Нижчу ціну виділено.
| GH200 96GB HBM3 | RTX A4000 16GB | |
|---|---|---|
| Найнижча ціна | $2.29 | $0.15 |
| Медіанна ціна | $5.19 | $0.76 |
| Найвища ціна | $6.50 | $0.76 |
| Медіана за GB пам’яті | $0.054 | $0.048 |
| Публічні пропозиції (усі умови) | 5 | 6 |
| Провайдери | 3 | 3 |
Де орендувати кожен
Найнижча відстежувана ціна для кожного провайдера. Відкрийте провайдера, щоб побачити всі пропозиції, регіони й умови.
Запитання
Що дешевше орендувати: GH200 96GB HBM3 чи RTX A4000 16GB?
Зараз найдешевший GH200 96GB HBM3 on-demand, якого відстежує Kovara, коштує $2.29 за GPU-hour, а найдешевший RTX A4000 16GB — $0.15. Медіани становлять $5.19 і $0.76. Дешевший за годину GPU не завжди дешевший за завдання: швидший або більший GPU може завершити роботу раніше чи потребувати менше одиниць.
Який має більше пам’яті?
GH200 96GB HBM3 має більше пам’яті: 96 GB проти 16 GB. Пам’ять визначає, які моделі та розміри батчів поміщаються на одному GPU.
Це результати бенчмарків?
Ні. Ця сторінка порівнює специфікації виробника та публічні ціни. Реальна продуктивність залежить від моделі, точності, програмного забезпечення та інтерконекту. Kova може допомогти оцінити вартість для конкретного навантаження.