NVIDIA A100 40GB SXM vs NVIDIA GH200 96GB HBM3
A A100 40GB SXM tem 58% menos memória que a GH200 96GB HBM3 (40 GB vs 96 GB). A largura de banda de memória é 61% menor (1.555 vs 4 TB/s). Na nuvem, o preço mediano on-demand da A100 40GB SXM é $1.64 por GPU-hour, contra $5.19 da GH200 96GB HBM3. Por gigabyte de memória de GPU, isso dá $0.041 vs $0.054 por hora.
Especificações
Números do fabricante conforme registrados pela Kovara. Memória e largura de banda maiores aparecem destacadas; nenhuma delas é um benchmark da sua carga de trabalho.
| A100 40GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Fabricante | NVIDIA | NVIDIA |
| Arquitetura | Ampere | Hopper + Grace |
| Memória | 40 GB HBM2 | 96 GB HBM3 |
| Largura de banda de memória | 1.555 TB/s | 4 TB/s |
| Potência (TDP) | 400 W | 900 W |
| Formato | SXM | Grace Hopper Superchip |
Preços de nuvem hoje
Ofertas públicas acompanhadas pela Kovara, normalizadas em dólares americanos por GPU-hour. Os preços usam condições on-demand quando disponíveis; ofertas spot e reserved estão nas páginas de preços de cada GPU. O menor valor aparece destacado.
| A100 40GB SXM | GH200 96GB HBM3 | |
|---|---|---|
| Menor preço | $1.15 | $2.29 |
| Preço mediano | $1.64 | $5.19 |
| Maior preço | $1.99 | $6.50 |
| Mediana por GB de memória | $0.041 | $0.054 |
| Ofertas públicas (todas as condições) | 5 | 5 |
| Provedores | 3 | 3 |
Onde alugar cada uma
Menor preço acompanhado por provedor. Abra um provedor para ver cada oferta, região e condição.
Perguntas
Qual é mais barata para alugar, a A100 40GB SXM ou a GH200 96GB HBM3?
Neste momento, a A100 40GB SXM on-demand mais barata acompanhada pela Kovara custa $1.15 por GPU-hour e a GH200 96GB HBM3 mais barata custa $2.29. As medianas são $1.64 e $5.19. A GPU mais barata por hora nem sempre é mais barata por tarefa: uma GPU mais rápida ou maior pode terminar antes ou exigir menos unidades.
Qual tem mais memória?
A GH200 96GB HBM3 tem mais memória: 96 GB contra 40 GB. A memória define quais modelos e tamanhos de lote cabem em uma GPU.
Estes são resultados de benchmark?
Não. Esta página compara especificações do fabricante e preços públicos. O desempenho real depende do modelo, da precisão, do software e da interconexão. A Kova pode ajudar você a estimar o custo de uma carga de trabalho específica.