NVIDIA A100 80GB SXM vs NVIDIA GH200 96GB HBM3
A100 80GB SXM dispose de 17% de mémoire de moins que GH200 96GB HBM3 (80 GB vs 96 GB). Sa bande passante mémoire est inférieure de 49% (2.039 vs 4 TB/s). Dans le cloud, le prix médian on-demand pour A100 80GB SXM est de $1.69 par GPU-hour, contre $5.19 pour GH200 96GB HBM3. Par gigaoctet de mémoire GPU, cela représente $0.021 vs $0.054 par heure.
Spécifications
Valeurs du fabricant telles qu’enregistrées par Kovara. La mémoire et la bande passante les plus élevées sont mises en évidence ; aucune des deux n’est un benchmark de votre charge de travail.
| A100 80GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Fabricant | NVIDIA | NVIDIA |
| Architecture | Ampere | Hopper + Grace |
| Mémoire | 80 GB HBM2E | 96 GB HBM3 |
| Bande passante mémoire | 2.039 TB/s | 4 TB/s |
| Puissance (TDP) | 400 W | 900 W |
| Facteur de forme | SXM | Grace Hopper Superchip |
Prix cloud aujourd’hui
Offres publiques suivies par Kovara, normalisées en dollars américains par GPU-hour. Les prix reposent sur les conditions on-demand lorsqu’elles sont disponibles ; les offres spot et reserved figurent sur les pages de prix de chaque GPU. La valeur la plus basse est mise en évidence.
| A100 80GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Prix le plus bas | $1.38 | $2.29 |
| Prix médian | $1.69 | $5.19 |
| Prix le plus élevé | $3.18 | $6.50 |
| Médiane par GB de mémoire | $0.021 | $0.054 |
| Offres publiques (toutes les conditions) | 20 | 5 |
| Fournisseurs | 9 | 3 |
Où louer chacun d’eux
Prix suivi le plus bas par fournisseur. Ouvrez un fournisseur pour voir chaque offre, région et condition.
Questions
Lequel est le moins cher à louer, A100 80GB SXM ou GH200 96GB HBM3 ?
En ce moment, le prix on-demand le plus bas que Kovara suit pour A100 80GB SXM est de $1.38 par GPU-hour, et celui pour GH200 96GB HBM3 est de $2.29. Les médianes sont de $1.69 et de $5.19. Le GPU le moins cher à l’heure n’est pas toujours le moins cher par tâche : un GPU plus rapide ou plus grand peut terminer plus tôt ou nécessiter moins d’unités.
Lequel a le plus de mémoire ?
GH200 96GB HBM3 dispose de plus de mémoire : 96 GB contre 80 GB. La mémoire détermine quels modèles et quelles tailles de batch tiennent sur un seul GPU.
S’agit-il de résultats de benchmarks ?
Non. Cette page compare les spécifications des fabricants et les prix publics. Les performances réelles dépendent du modèle, de la précision, du logiciel et de l’interconnexion. Kova peut vous aider à estimer le coût pour une charge de travail précise.