L40 48GB

Especificaciones, explicadas

Se usa para AI inference, graphics y virtual workstation

1. 0148 GB de memoria GDDR6

   VRAM

   48 GB

   Tipo de memoria

   GDDR6

   Ancho de banda de memoria

   0.864 TB/s

   La GDDR es una memoria gráfica montada en la placa alrededor de la GPU, en lugar de apilada en el encapsulado. Se usa mucho en tarjetas para gráficos, renderizado e inferencia eficiente en costos.

   La VRAM es el espacio de trabajo de la tarjeta. Los pesos del modelo, las activaciones y los conjuntos de datos tienen que caber en ella o repartirse entre varias GPU. Regla general solo para los pesos con precisión de 16 bits (unos 2 GB por cada mil millones de parámetros): hasta aproximadamente 24 mil millones de parámetros, sin contar las activaciones ni la caché. Es una operación aritmética sobre la VRAM registrada, no un benchmark.

2. 02Arquitectura Ada Lovelace

   Arquitectura

   Ada Lovelace

   Generación

   Ada Data Center

   Año de lanzamiento

   2022

   Estado del ciclo de vida

   Previous

   Ada Lovelace incorporó los Tensor Cores de cuarta generación con compatibilidad con FP8 y los núcleos de trazado de rayos de tercera generación. (Contexto general sobre la arquitectura, no una afirmación sobre esta tarjeta en concreto.)

   Se lanzó en 2022. Los registros de Kovara lo indican como un componente de generación anterior.

3. 03Factor de forma y potencia

   NVLink

   No compatible

   MIG

   No compatible

   Factor de forma

   PCIe dual-slot FHFL

   TDP

   300 W

   Los registros de Kovara no muestran compatibilidad con NVLink, por lo que los trabajos con varias GPU en este componente dependen de PCIe o de la red entre servidores para mover los datos.

   Las tarjetas PCIe se insertan en las ranuras de expansión estándar de servidores y estaciones de trabajo, lo que se adapta a una amplia gama de sistemas.

   El TDP es la potencia de diseño térmico nominal: la cifra de referencia para planificar el suministro eléctrico y la refrigeración en un servidor.

4. 04Para qué se usa

   Uso principal (registrado)

   AI inference / graphics / virtual workstation

   Estos son los usos que Kovara ha registrado para este componente. Las notas explican la carga de trabajo en términos generales; no son afirmaciones sobre el rendimiento.

   • AI inferenceLa ejecución de un modelo entrenado para responder solicitudes. La capacidad de memoria, la latencia y el costo por solicitud son las preocupaciones habituales.
   • graphicsGráficos interactivos y aplicaciones profesionales de diseño o ingeniería.
   • virtual workstationUso compartido de una GPU entre escritorios remotos y estaciones de trabajo virtuales.

Las cifras son datos maestros de Kovara, verificados por última vez el 03 sept 2026. Las explicaciones describen la tecnología en general; no son benchmarks y no dicen nada sobre el precio ni la disponibilidad.