Gaudi 3 128GB

Especificaciones, explicadas

Se usa para AI training y inference

1. 01128 GB de memoria HBM2E

   VRAM

   128 GB

   Tipo de memoria

   HBM2E

   Ancho de banda de memoria

   3.7 TB/s

   La HBM (High Bandwidth Memory) se apila en capas y se ubica junto al procesador, en el mismo encapsulado. Ese camino corto y ancho es lo que da a los aceleradores con HBM su ancho de banda de memoria, por lo que suelen elegirse para cargas limitadas por la rapidez con que los datos llegan a los núcleos, como la inferencia de modelos de gran tamaño y la simulación HPC.

   La VRAM es el espacio de trabajo de la tarjeta. Los pesos del modelo, las activaciones y los conjuntos de datos tienen que caber en ella o repartirse entre varias GPU. Regla general solo para los pesos con precisión de 16 bits (unos 2 GB por cada mil millones de parámetros): hasta aproximadamente 64 mil millones de parámetros, sin contar las activaciones ni la caché. Es una operación aritmética sobre la VRAM registrada, no un benchmark.

2. 02Arquitectura Gaudi3

   Arquitectura

   Gaudi3

   Generación

   Gaudi 3

   Año de lanzamiento

   2024

   Estado del ciclo de vida

   Current

   Gaudi es la línea de aceleradores de IA de Intel, diseñada para el entrenamiento y la inferencia de aprendizaje profundo, con la red integrada en el chip. (Contexto general sobre la arquitectura, no una afirmación sobre esta tarjeta en concreto.)

   Se lanzó en 2024. Los registros de Kovara lo indican como un componente de generación actual.

3. 03Para qué se usa

   Uso principal (registrado)

   AI training / inference

   Estos son los usos que Kovara ha registrado para este componente. Las notas explican la carga de trabajo en términos generales; no son afirmaciones sobre el rendimiento.

   • AI trainingEl entrenamiento de un modelo a partir de datos. Suele ser la fase que más cómputo y memoria exige, a menudo repartida entre muchas GPU.
   • inferenceLa ejecución de un modelo entrenado para responder solicitudes. La capacidad de memoria, la latencia y el costo por solicitud son las preocupaciones habituales.

Las cifras son datos maestros de Kovara, verificados por última vez el 25 sept 2026. Las explicaciones describen la tecnología en general; no son benchmarks y no dicen nada sobre el precio ni la disponibilidad.