AMD Instinct MI300X 192GB vs NVIDIA A100 80GB SXM
Instinct MI300X 192GB dispose de 140% de mémoire de plus que A100 80GB SXM (192 GB vs 80 GB). Sa bande passante mémoire est supérieure de 160% (5.3 vs 2.039 TB/s). Dans le cloud, le prix médian on-demand pour Instinct MI300X 192GB est de $2.99 par GPU-hour, contre $1.69 pour A100 80GB SXM. Par gigaoctet de mémoire GPU, cela représente $0.016 vs $0.021 par heure.
Spécifications
Valeurs du fabricant telles qu’enregistrées par Kovara. La mémoire et la bande passante les plus élevées sont mises en évidence ; aucune des deux n’est un benchmark de votre charge de travail.
| Instinct MI300X 192GB | A100 80GB SXM | |
|---|---|---|
| Fabricant | AMD | NVIDIA |
| Architecture | CDNA 3 | Ampere |
| Mémoire | 192 GB HBM3 | 80 GB HBM2E |
| Bande passante mémoire | 5.3 TB/s | 2.039 TB/s |
| Puissance (TDP) | 750 W | 400 W |
| Facteur de forme | OAM Module | SXM |
Prix cloud aujourd’hui
Offres publiques suivies par Kovara, normalisées en dollars américains par GPU-hour. Les prix reposent sur les conditions on-demand lorsqu’elles sont disponibles ; les offres spot et reserved figurent sur les pages de prix de chaque GPU. La valeur la plus basse est mise en évidence.
| Instinct MI300X 192GB | A100 80GB SXM | |
|---|---|---|
| Prix le plus bas | $2.59 | $1.38 |
| Prix médian | $2.99 | $1.69 |
| Prix le plus élevé | $3.45 | $3.18 |
| Médiane par GB de mémoire | $0.016 | $0.021 |
| Offres publiques (toutes les conditions) | 8 | 20 |
| Fournisseurs | 3 | 9 |
Où louer chacun d’eux
Prix suivi le plus bas par fournisseur. Ouvrez un fournisseur pour voir chaque offre, région et condition.
Questions
Lequel est le moins cher à louer, Instinct MI300X 192GB ou A100 80GB SXM ?
En ce moment, le prix on-demand le plus bas que Kovara suit pour Instinct MI300X 192GB est de $2.59 par GPU-hour, et celui pour A100 80GB SXM est de $1.38. Les médianes sont de $2.99 et de $1.69. Le GPU le moins cher à l’heure n’est pas toujours le moins cher par tâche : un GPU plus rapide ou plus grand peut terminer plus tôt ou nécessiter moins d’unités.
Lequel a le plus de mémoire ?
Instinct MI300X 192GB dispose de plus de mémoire : 192 GB contre 80 GB. La mémoire détermine quels modèles et quelles tailles de batch tiennent sur un seul GPU.
S’agit-il de résultats de benchmarks ?
Non. Cette page compare les spécifications des fabricants et les prix publics. Les performances réelles dépendent du modèle, de la précision, du logiciel et de l’interconnexion. Kova peut vous aider à estimer le coût pour une charge de travail précise.