NVIDIA A100 40GB SXM vs NVIDIA H100 NVL 94GB
A100 40GB SXM dispose de 57% de mémoire de moins que H100 NVL 94GB (40 GB vs 94 GB). Sa bande passante mémoire est inférieure de 60% (1.555 vs 3.9 TB/s). Dans le cloud, le prix médian on-demand pour A100 40GB SXM est de $1.64 par GPU-hour, contre $8.66 pour H100 NVL 94GB. Par gigaoctet de mémoire GPU, cela représente $0.041 vs $0.092 par heure.
Spécifications
Valeurs du fabricant telles qu’enregistrées par Kovara. La mémoire et la bande passante les plus élevées sont mises en évidence ; aucune des deux n’est un benchmark de votre charge de travail.
| A100 40GB SXM | H100 NVL 94GB | |
|---|---|---|
| Fabricant | NVIDIA | NVIDIA |
| Architecture | Ampere | Hopper |
| Mémoire | 40 GB HBM2 | 94 GB HBM3 |
| Bande passante mémoire | 1.555 TB/s | 3.9 TB/s |
| Puissance (TDP) | 400 W | 400 W |
| Facteur de forme | SXM | PCIe |
Prix cloud aujourd’hui
Offres publiques suivies par Kovara, normalisées en dollars américains par GPU-hour. Les prix reposent sur les conditions on-demand lorsqu’elles sont disponibles ; les offres spot et reserved figurent sur les pages de prix de chaque GPU. La valeur la plus basse est mise en évidence.
| A100 40GB SXM | H100 NVL 94GB | |
|---|---|---|
| Prix le plus bas | $1.15 | $2.92 |
| Prix médian | $1.64 | $8.66 |
| Prix le plus élevé | $1.99 | $10.12 |
| Médiane par GB de mémoire | $0.041 | $0.092 |
| Offres publiques (toutes les conditions) | 5 | 60 |
| Fournisseurs | 3 | 3 |
Où louer chacun d’eux
Prix suivi le plus bas par fournisseur. Ouvrez un fournisseur pour voir chaque offre, région et condition.
Questions
Lequel est le moins cher à louer, A100 40GB SXM ou H100 NVL 94GB ?
En ce moment, le prix on-demand le plus bas que Kovara suit pour A100 40GB SXM est de $1.15 par GPU-hour, et celui pour H100 NVL 94GB est de $2.92. Les médianes sont de $1.64 et de $8.66. Le GPU le moins cher à l’heure n’est pas toujours le moins cher par tâche : un GPU plus rapide ou plus grand peut terminer plus tôt ou nécessiter moins d’unités.
Lequel a le plus de mémoire ?
H100 NVL 94GB dispose de plus de mémoire : 94 GB contre 40 GB. La mémoire détermine quels modèles et quelles tailles de batch tiennent sur un seul GPU.
S’agit-il de résultats de benchmarks ?
Non. Cette page compare les spécifications des fabricants et les prix publics. Les performances réelles dépendent du modèle, de la précision, du logiciel et de l’interconnexion. Kova peut vous aider à estimer le coût pour une charge de travail précise.