AMD Instinct MI300X 192GB vs NVIDIA A100 40GB SXM
A Instinct MI300X 192GB tem 380% mais memória que a A100 40GB SXM (192 GB vs 40 GB). A largura de banda de memória é 241% maior (5.3 vs 1.555 TB/s). Na nuvem, o preço mediano on-demand da Instinct MI300X 192GB é $2.99 por GPU-hour, contra $1.64 da A100 40GB SXM. Por gigabyte de memória de GPU, isso dá $0.016 vs $0.041 por hora.
Especificações
Números do fabricante conforme registrados pela Kovara. Memória e largura de banda maiores aparecem destacadas; nenhuma delas é um benchmark da sua carga de trabalho.
| Instinct MI300X 192GB | A100 40GB SXM | |
|---|---|---|
| Fabricante | AMD | NVIDIA |
| Arquitetura | CDNA 3 | Ampere |
| Memória | 192 GB HBM3 | 40 GB HBM2 |
| Largura de banda de memória | 5.3 TB/s | 1.555 TB/s |
| Potência (TDP) | 750 W | 400 W |
| Formato | OAM Module | SXM |
Preços de nuvem hoje
Ofertas públicas acompanhadas pela Kovara, normalizadas em dólares americanos por GPU-hour. Os preços usam condições on-demand quando disponíveis; ofertas spot e reserved estão nas páginas de preços de cada GPU. O menor valor aparece destacado.
| Instinct MI300X 192GB | A100 40GB SXM | |
|---|---|---|
| Menor preço | $2.59 | $1.15 |
| Preço mediano | $2.99 | $1.64 |
| Maior preço | $3.45 | $1.99 |
| Mediana por GB de memória | $0.016 | $0.041 |
| Ofertas públicas (todas as condições) | 8 | 5 |
| Provedores | 3 | 3 |
Onde alugar cada uma
Menor preço acompanhado por provedor. Abra um provedor para ver cada oferta, região e condição.
Perguntas
Qual é mais barata para alugar, a Instinct MI300X 192GB ou a A100 40GB SXM?
Neste momento, a Instinct MI300X 192GB on-demand mais barata acompanhada pela Kovara custa $2.59 por GPU-hour e a A100 40GB SXM mais barata custa $1.15. As medianas são $2.99 e $1.64. A GPU mais barata por hora nem sempre é mais barata por tarefa: uma GPU mais rápida ou maior pode terminar antes ou exigir menos unidades.
Qual tem mais memória?
A Instinct MI300X 192GB tem mais memória: 192 GB contra 40 GB. A memória define quais modelos e tamanhos de lote cabem em uma GPU.
Estes são resultados de benchmark?
Não. Esta página compara especificações do fabricante e preços públicos. O desempenho real depende do modelo, da precisão, do software e da interconexão. A Kova pode ajudar você a estimar o custo de uma carga de trabalho específica.