L40 48GB

Especificações explicadas

Usado para AI inference, graphics e virtual workstation

1. 0148 GB de memória GDDR6

   VRAM

   48 GB

   Tipo de memória

   GDDR6

   Largura de banda de memória

   0.864 TB/s

   A GDDR é memória gráfica montada na placa ao redor da GPU, e não empilhada no encapsulamento. É muito usada em placas de vídeo, de renderização e de inferência com boa relação custo-benefício.

   A VRAM é o espaço de trabalho da placa. Os pesos do modelo, as ativações e os conjuntos de dados precisam caber nela ou ser divididos entre várias GPUs. Regra prática apenas para os pesos com precisão de 16 bits (cerca de 2 GB por bilhão de parâmetros): até aproximadamente 24 bilhões de parâmetros, antes de ativações e cache. Isto é aritmética sobre a VRAM registrada, não um benchmark.

2. 02Arquitetura Ada Lovelace

   Arquitetura

   Ada Lovelace

   Geração

   Ada Data Center

   Ano de lançamento

   2022

   Status do ciclo de vida

   Previous

   A Ada Lovelace trouxe Tensor Cores de quarta geração com suporte a FP8 e núcleos de ray tracing de terceira geração. (Contexto geral sobre a arquitetura, não uma afirmação sobre esta placa específica.)

   Lançamento em 2022. Os registros da Kovara a classificam como uma peça da geração anterior.

3. 03Formato e potência

   NVLink

   Não suportado

   MIG

   Não suportado

   Formato

   PCIe dual-slot FHFL

   TDP

   300 W

   Os registros da Kovara não mostram suporte a NVLink, então tarefas com várias GPUs nesta peça dependem de PCIe ou da rede entre servidores para mover dados.

   As placas PCIe são encaixadas em slots de expansão padrão de servidores e workstations, o que atende a uma grande variedade de sistemas.

   O TDP é a potência de projeto térmico nominal: o número de planejamento para o fornecimento de energia e o resfriamento em um servidor.

4. 04Para que é usada

   Uso principal (registrado)

   AI inference / graphics / virtual workstation

   Estes são os usos que a Kovara registrou para esta peça. As notas explicam a carga de trabalho em termos gerais; não são afirmações de desempenho.

   • AI inferenceExecutar um modelo treinado para responder a requisições. Capacidade de memória, latência e custo por requisição são as preocupações habituais.
   • graphicsGráficos interativos e aplicações profissionais de design ou engenharia.
   • virtual workstationCompartilhamento de uma GPU entre desktops remotos e workstations virtuais.

Os números são dados mestres da Kovara, verificados pela última vez em 03 de set. de 2026. As explicações descrevem a tecnologia em geral; não são benchmarks e não dizem nada sobre preço ou disponibilidade.