AMD Instinct MI300X 192GB vs NVIDIA H100 SXM
Instinct MI300X 192GB dispose de 140% de mémoire de plus que H100 SXM (192 GB vs 80 GB). Sa bande passante mémoire est supérieure de 58% (5.3 vs 3.35 TB/s). Dans le cloud, le prix médian on-demand pour Instinct MI300X 192GB est de $2.99 par GPU-hour, contre $3.85 pour H100 SXM. Par gigaoctet de mémoire GPU, cela représente $0.016 vs $0.048 par heure.
Spécifications
Valeurs du fabricant telles qu’enregistrées par Kovara. La mémoire et la bande passante les plus élevées sont mises en évidence ; aucune des deux n’est un benchmark de votre charge de travail.
| Instinct MI300X 192GB | H100 SXM | |
|---|---|---|
| Fabricant | AMD | NVIDIA |
| Architecture | CDNA 3 | Hopper |
| Mémoire | 192 GB HBM3 | 80 GB HBM3 |
| Bande passante mémoire | 5.3 TB/s | 3.35 TB/s |
| Puissance (TDP) | 750 W | 700 W |
| Facteur de forme | OAM Module | SXM |
Prix cloud aujourd’hui
Offres publiques suivies par Kovara, normalisées en dollars américains par GPU-hour. Les prix reposent sur les conditions on-demand lorsqu’elles sont disponibles ; les offres spot et reserved figurent sur les pages de prix de chaque GPU. La valeur la plus basse est mise en évidence.
| Instinct MI300X 192GB | H100 SXM | |
|---|---|---|
| Prix le plus bas | $2.59 | $1.99 |
| Prix médian | $2.99 | $3.85 |
| Prix le plus élevé | $3.45 | $12.29 |
| Médiane par GB de mémoire | $0.016 | $0.048 |
| Offres publiques (toutes les conditions) | 8 | 59 |
| Fournisseurs | 3 | 21 |
Où louer chacun d’eux
Prix suivi le plus bas par fournisseur. Ouvrez un fournisseur pour voir chaque offre, région et condition.
Questions
Lequel est le moins cher à louer, Instinct MI300X 192GB ou H100 SXM ?
En ce moment, le prix on-demand le plus bas que Kovara suit pour Instinct MI300X 192GB est de $2.59 par GPU-hour, et celui pour H100 SXM est de $1.99. Les médianes sont de $2.99 et de $3.85. Le GPU le moins cher à l’heure n’est pas toujours le moins cher par tâche : un GPU plus rapide ou plus grand peut terminer plus tôt ou nécessiter moins d’unités.
Lequel a le plus de mémoire ?
Instinct MI300X 192GB dispose de plus de mémoire : 192 GB contre 80 GB. La mémoire détermine quels modèles et quelles tailles de batch tiennent sur un seul GPU.
S’agit-il de résultats de benchmarks ?
Non. Cette page compare les spécifications des fabricants et les prix publics. Les performances réelles dépendent du modèle, de la précision, du logiciel et de l’interconnexion. Kova peut vous aider à estimer le coût pour une charge de travail précise.