L4 24GB

Especificações explicadas

Usado para AI inference, video e graphics

1. 0124 GB de memória GDDR6

   VRAM

   24 GB

   Tipo de memória

   GDDR6

   Largura de banda de memória

   0.3 TB/s

   A GDDR é memória gráfica montada na placa ao redor da GPU, e não empilhada no encapsulamento. É muito usada em placas de vídeo, de renderização e de inferência com boa relação custo-benefício.

   A VRAM é o espaço de trabalho da placa. Os pesos do modelo, as ativações e os conjuntos de dados precisam caber nela ou ser divididos entre várias GPUs. Regra prática apenas para os pesos com precisão de 16 bits (cerca de 2 GB por bilhão de parâmetros): até aproximadamente 12 bilhões de parâmetros, antes de ativações e cache. Isto é aritmética sobre a VRAM registrada, não um benchmark.

2. 02Arquitetura Ada Lovelace

   Arquitetura

   Ada Lovelace

   Geração

   Ada

   Ano de lançamento

   2023

   Status do ciclo de vida

   Current

   A Ada Lovelace trouxe Tensor Cores de quarta geração com suporte a FP8 e núcleos de ray tracing de terceira geração. (Contexto geral sobre a arquitetura, não uma afirmação sobre esta placa específica.)

   Lançamento em 2023. Os registros da Kovara a classificam como uma peça da geração atual.

3. 03Formato e potência

   NVLink

   Não suportado

   MIG

   Não suportado

   Formato

   PCIe low-profile single-slot

   TDP

   72 W

   Os registros da Kovara não mostram suporte a NVLink, então tarefas com várias GPUs nesta peça dependem de PCIe ou da rede entre servidores para mover dados.

   As placas PCIe são encaixadas em slots de expansão padrão de servidores e workstations, o que atende a uma grande variedade de sistemas.

   O TDP é a potência de projeto térmico nominal: o número de planejamento para o fornecimento de energia e o resfriamento em um servidor.

4. 04Para que é usada

   Uso principal (registrado)

   AI inference / video / graphics

   Estes são os usos que a Kovara registrou para esta peça. As notas explicam a carga de trabalho em termos gerais; não são afirmações de desempenho.

   • AI inferenceExecutar um modelo treinado para responder a requisições. Capacidade de memória, latência e custo por requisição são as preocupações habituais.
   • videoPipelines de transcodificação e análise de vídeo.
   • graphicsGráficos interativos e aplicações profissionais de design ou engenharia.

Os números são dados mestres da Kovara, verificados pela última vez em 03 de set. de 2026. As explicações descrevem a tecnologia em geral; não são benchmarks e não dizem nada sobre preço ou disponibilidade.