NVIDIA A100 80GB PCIe vs NVIDIA L40 48GB
A100 80GB PCIe має на 67% більше пам’яті, ніж L40 48GB (80 GB проти 48 GB). Пропускна здатність пам’яті на 124% вища (1.935 проти 0.864 TB/s). У хмарі медіанна ціна A100 80GB PCIe on-demand становить $4.78 за GPU-hour проти $0.86 для L40 48GB. У розрахунку на гігабайт пам’яті GPU це $0.060 проти $0.018 за годину.
Характеристики
Показники виробника в тому вигляді, як їх зафіксувала Kovara. Більший обсяг пам’яті та вищу пропускну здатність виділено; жоден із цих показників не є бенчмарком вашого навантаження.
| A100 80GB PCIe | L40 48GB | |
|---|---|---|
| Виробник | NVIDIA | NVIDIA |
| Архітектура | Ampere | Ada Lovelace |
| Пам’ять | 80 GB HBM2E | 48 GB GDDR6 |
| Пропускна здатність пам’яті | 1.935 TB/s | 0.864 TB/s |
| Потужність (TDP) | 300 W | 300 W |
| Form factor | PCIe dual-slot | PCIe dual-slot FHFL |
Хмарні ціни сьогодні
Публічні пропозиції, які відстежує Kovara, у перерахунку на долари США за GPU-hour. Ціни подано за умовами on-demand, де вони є; пропозиції spot і reserved — на цінових сторінках кожного GPU. Нижчу ціну виділено.
| A100 80GB PCIe | L40 48GB | |
|---|---|---|
| Найнижча ціна | $1.59 | $0.79 |
| Медіанна ціна | $4.78 | $0.86 |
| Найвища ціна | $7.35 | $1.25 |
| Медіана за GB пам’яті | $0.060 | $0.018 |
| Публічні пропозиції (усі умови) | 81 | 13 |
| Провайдери | 4 | 5 |
Де орендувати кожен
Найнижча відстежувана ціна для кожного провайдера. Відкрийте провайдера, щоб побачити всі пропозиції, регіони й умови.
Запитання
Що дешевше орендувати: A100 80GB PCIe чи L40 48GB?
Зараз найдешевший A100 80GB PCIe on-demand, якого відстежує Kovara, коштує $1.59 за GPU-hour, а найдешевший L40 48GB — $0.79. Медіани становлять $4.78 і $0.86. Дешевший за годину GPU не завжди дешевший за завдання: швидший або більший GPU може завершити роботу раніше чи потребувати менше одиниць.
Який має більше пам’яті?
A100 80GB PCIe має більше пам’яті: 80 GB проти 48 GB. Пам’ять визначає, які моделі та розміри батчів поміщаються на одному GPU.
Це результати бенчмарків?
Ні. Ця сторінка порівнює специфікації виробника та публічні ціни. Реальна продуктивність залежить від моделі, точності, програмного забезпечення та інтерконекту. Kova може допомогти оцінити вартість для конкретного навантаження.