A30 24GB

Especificaciones, explicadas

Se usa para AI inference, training y HPC

1. 0124 GB de memoria HBM2

   VRAM

   24 GB

   Tipo de memoria

   HBM2

   Ancho de banda de memoria

   0.933 TB/s

   La HBM (High Bandwidth Memory) se apila en capas y se ubica junto al procesador, en el mismo encapsulado. Ese camino corto y ancho es lo que da a los aceleradores con HBM su ancho de banda de memoria, por lo que suelen elegirse para cargas limitadas por la rapidez con que los datos llegan a los núcleos, como la inferencia de modelos de gran tamaño y la simulación HPC.

   La VRAM es el espacio de trabajo de la tarjeta. Los pesos del modelo, las activaciones y los conjuntos de datos tienen que caber en ella o repartirse entre varias GPU. Regla general solo para los pesos con precisión de 16 bits (unos 2 GB por cada mil millones de parámetros): hasta aproximadamente 12 mil millones de parámetros, sin contar las activaciones ni la caché. Es una operación aritmética sobre la VRAM registrada, no un benchmark.

2. 02Arquitectura Ampere

   Arquitectura

   Ampere

   Año de lanzamiento

   2021

   Estado del ciclo de vida

   Previous

   Ampere incorporó a sus componentes para centros de datos los Tensor Cores de tercera generación, la precisión TF32 y Multi-Instance GPU (MIG). (Contexto general sobre la arquitectura, no una afirmación sobre esta tarjeta en concreto.)

   Se lanzó en 2021. Los registros de Kovara lo indican como un componente de generación anterior.

3. 03Diseñado para escalar en varias GPU

   NVLink

   Compatible

   MIG

   Compatible

   Factor de forma

   PCIe dual-slot FHFL

   TDP

   165 W

   NVLink es un enlace directo de GPU a GPU. Donde se admite, las GPU de un mismo servidor pueden intercambiar datos más rápido que solo con PCIe, algo relevante cuando un único trabajo de entrenamiento se reparte entre varias GPU.

   Multi-Instance GPU (MIG) puede dividir una GPU física en particiones aisladas, cada una con su propia memoria y su propia capacidad de cómputo, de modo que varias cargas de trabajo más pequeñas puedan compartir una tarjeta.

   Las tarjetas PCIe se insertan en las ranuras de expansión estándar de servidores y estaciones de trabajo, lo que se adapta a una amplia gama de sistemas.

   El TDP es la potencia de diseño térmico nominal: la cifra de referencia para planificar el suministro eléctrico y la refrigeración en un servidor.

4. 04Para qué se usa

   Uso principal (registrado)

   AI inference / training / HPC

   Estos son los usos que Kovara ha registrado para este componente. Las notas explican la carga de trabajo en términos generales; no son afirmaciones sobre el rendimiento.

   • AI inferenceLa ejecución de un modelo entrenado para responder solicitudes. La capacidad de memoria, la latencia y el costo por solicitud son las preocupaciones habituales.
   • trainingEl entrenamiento de un modelo a partir de datos. Suele ser la fase que más cómputo y memoria exige, a menudo repartida entre muchas GPU.
   • HPCSimulación científica y de ingeniería, donde importan la precisión numérica y el ancho de banda de memoria.

Las cifras son datos maestros de Kovara, verificados por última vez el 03 sept 2026. Las explicaciones describen la tecnología en general; no son benchmarks y no dicen nada sobre el precio ni la disponibilidad.