L4 24GB

Especificaciones, explicadas

Se usa para AI inference, video y graphics

1. 0124 GB de memoria GDDR6

   VRAM

   24 GB

   Tipo de memoria

   GDDR6

   Ancho de banda de memoria

   0.3 TB/s

   La GDDR es una memoria gráfica montada en la placa alrededor de la GPU, en lugar de apilada en el encapsulado. Se usa mucho en tarjetas para gráficos, renderizado e inferencia eficiente en costos.

   La VRAM es el espacio de trabajo de la tarjeta. Los pesos del modelo, las activaciones y los conjuntos de datos tienen que caber en ella o repartirse entre varias GPU. Regla general solo para los pesos con precisión de 16 bits (unos 2 GB por cada mil millones de parámetros): hasta aproximadamente 12 mil millones de parámetros, sin contar las activaciones ni la caché. Es una operación aritmética sobre la VRAM registrada, no un benchmark.

2. 02Arquitectura Ada Lovelace

   Arquitectura

   Ada Lovelace

   Generación

   Ada

   Año de lanzamiento

   2023

   Estado del ciclo de vida

   Current

   Ada Lovelace incorporó los Tensor Cores de cuarta generación con compatibilidad con FP8 y los núcleos de trazado de rayos de tercera generación. (Contexto general sobre la arquitectura, no una afirmación sobre esta tarjeta en concreto.)

   Se lanzó en 2023. Los registros de Kovara lo indican como un componente de generación actual.

3. 03Factor de forma y potencia

   NVLink

   No compatible

   MIG

   No compatible

   Factor de forma

   PCIe low-profile single-slot

   TDP

   72 W

   Los registros de Kovara no muestran compatibilidad con NVLink, por lo que los trabajos con varias GPU en este componente dependen de PCIe o de la red entre servidores para mover los datos.

   Las tarjetas PCIe se insertan en las ranuras de expansión estándar de servidores y estaciones de trabajo, lo que se adapta a una amplia gama de sistemas.

   El TDP es la potencia de diseño térmico nominal: la cifra de referencia para planificar el suministro eléctrico y la refrigeración en un servidor.

4. 04Para qué se usa

   Uso principal (registrado)

   AI inference / video / graphics

   Estos son los usos que Kovara ha registrado para este componente. Las notas explican la carga de trabajo en términos generales; no son afirmaciones sobre el rendimiento.

   • AI inferenceLa ejecución de un modelo entrenado para responder solicitudes. La capacidad de memoria, la latencia y el costo por solicitud son las preocupaciones habituales.
   • videoTranscodificación de video y pipelines de análisis de video.
   • graphicsGráficos interactivos y aplicaciones profesionales de diseño o ingeniería.

Las cifras son datos maestros de Kovara, verificados por última vez el 03 sept 2026. Las explicaciones describen la tecnología en general; no son benchmarks y no dicen nada sobre el precio ni la disponibilidad.