AMD Instinct MI300X 192GB vs NVIDIA A100 80GB PCIe
Instinct MI300X 192GB має на 140% більше пам’яті, ніж A100 80GB PCIe (192 GB проти 80 GB). Пропускна здатність пам’яті на 174% вища (5.3 проти 1.935 TB/s). У хмарі медіанна ціна Instinct MI300X 192GB on-demand становить $2.99 за GPU-hour проти $4.78 для A100 80GB PCIe. У розрахунку на гігабайт пам’яті GPU це $0.016 проти $0.060 за годину.
Характеристики
Показники виробника в тому вигляді, як їх зафіксувала Kovara. Більший обсяг пам’яті та вищу пропускну здатність виділено; жоден із цих показників не є бенчмарком вашого навантаження.
| Instinct MI300X 192GB | A100 80GB PCIe | |
|---|---|---|
| Виробник | AMD | NVIDIA |
| Архітектура | CDNA 3 | Ampere |
| Пам’ять | 192 GB HBM3 | 80 GB HBM2E |
| Пропускна здатність пам’яті | 5.3 TB/s | 1.935 TB/s |
| Потужність (TDP) | 750 W | 300 W |
| Form factor | OAM Module | PCIe dual-slot |
Хмарні ціни сьогодні
Публічні пропозиції, які відстежує Kovara, у перерахунку на долари США за GPU-hour. Ціни подано за умовами on-demand, де вони є; пропозиції spot і reserved — на цінових сторінках кожного GPU. Нижчу ціну виділено.
| Instinct MI300X 192GB | A100 80GB PCIe | |
|---|---|---|
| Найнижча ціна | $2.59 | $1.59 |
| Медіанна ціна | $2.99 | $4.78 |
| Найвища ціна | $3.45 | $7.35 |
| Медіана за GB пам’яті | $0.016 | $0.060 |
| Публічні пропозиції (усі умови) | 8 | 81 |
| Провайдери | 3 | 4 |
Де орендувати кожен
Найнижча відстежувана ціна для кожного провайдера. Відкрийте провайдера, щоб побачити всі пропозиції, регіони й умови.
Запитання
Що дешевше орендувати: Instinct MI300X 192GB чи A100 80GB PCIe?
Зараз найдешевший Instinct MI300X 192GB on-demand, якого відстежує Kovara, коштує $2.59 за GPU-hour, а найдешевший A100 80GB PCIe — $1.59. Медіани становлять $2.99 і $4.78. Дешевший за годину GPU не завжди дешевший за завдання: швидший або більший GPU може завершити роботу раніше чи потребувати менше одиниць.
Який має більше пам’яті?
Instinct MI300X 192GB має більше пам’яті: 192 GB проти 80 GB. Пам’ять визначає, які моделі та розміри батчів поміщаються на одному GPU.
Це результати бенчмарків?
Ні. Ця сторінка порівнює специфікації виробника та публічні ціни. Реальна продуктивність залежить від моделі, точності, програмного забезпечення та інтерконекту. Kova може допомогти оцінити вартість для конкретного навантаження.