NVIDIA H100 SXM vs NVIDIA L4 24GB
H100 SXM dispose de 233% de mémoire de plus que L4 24GB (80 GB vs 24 GB). Sa bande passante mémoire est supérieure de 1017% (3.35 vs 0.3 TB/s). Dans le cloud, le prix médian on-demand pour H100 SXM est de $3.85 par GPU-hour, contre $0.44 pour L4 24GB. Par gigaoctet de mémoire GPU, cela représente $0.048 vs $0.018 par heure.
Spécifications
Valeurs du fabricant telles qu’enregistrées par Kovara. La mémoire et la bande passante les plus élevées sont mises en évidence ; aucune des deux n’est un benchmark de votre charge de travail.
| H100 SXM | L4 24GB | |
|---|---|---|
| Fabricant | NVIDIA | NVIDIA |
| Architecture | Hopper | Ada Lovelace |
| Mémoire | 80 GB HBM3 | 24 GB GDDR6 |
| Bande passante mémoire | 3.35 TB/s | 0.3 TB/s |
| Puissance (TDP) | 700 W | 72 W |
| Facteur de forme | SXM | PCIe low-profile single-slot |
Prix cloud aujourd’hui
Offres publiques suivies par Kovara, normalisées en dollars américains par GPU-hour. Les prix reposent sur les conditions on-demand lorsqu’elles sont disponibles ; les offres spot et reserved figurent sur les pages de prix de chaque GPU. La valeur la plus basse est mise en évidence.
| H100 SXM | L4 24GB | |
|---|---|---|
| Prix le plus bas | $1.99 | $0.44 |
| Prix médian | $3.85 | $0.44 |
| Prix le plus élevé | $12.29 | $0.57 |
| Médiane par GB de mémoire | $0.048 | $0.018 |
| Offres publiques (toutes les conditions) | 59 | 7 |
| Fournisseurs | 21 | 3 |
Où louer chacun d’eux
Prix suivi le plus bas par fournisseur. Ouvrez un fournisseur pour voir chaque offre, région et condition.
Questions
Lequel est le moins cher à louer, H100 SXM ou L4 24GB ?
En ce moment, le prix on-demand le plus bas que Kovara suit pour H100 SXM est de $1.99 par GPU-hour, et celui pour L4 24GB est de $0.44. Les médianes sont de $3.85 et de $0.44. Le GPU le moins cher à l’heure n’est pas toujours le moins cher par tâche : un GPU plus rapide ou plus grand peut terminer plus tôt ou nécessiter moins d’unités.
Lequel a le plus de mémoire ?
H100 SXM dispose de plus de mémoire : 80 GB contre 24 GB. La mémoire détermine quels modèles et quelles tailles de batch tiennent sur un seul GPU.
S’agit-il de résultats de benchmarks ?
Non. Cette page compare les spécifications des fabricants et les prix publics. Les performances réelles dépendent du modèle, de la précision, du logiciel et de l’interconnexion. Kova peut vous aider à estimer le coût pour une charge de travail précise.