H100 80GB — provider does not specify PCIe/SXM

Especificaciones, explicadas

Se usa para AI training, inference y HPC

1. 0180 GB de memoria

   VRAM

   80 GB

   La VRAM es el espacio de trabajo de la tarjeta. Los pesos del modelo, las activaciones y los conjuntos de datos tienen que caber en ella o repartirse entre varias GPU. Regla general solo para los pesos con precisión de 16 bits (unos 2 GB por cada mil millones de parámetros): hasta aproximadamente 40 mil millones de parámetros, sin contar las activaciones ni la caché. Es una operación aritmética sobre la VRAM registrada, no un benchmark.

2. 02Arquitectura Hopper

   Arquitectura

   Hopper

   Año de lanzamiento

   2022

   Estado del ciclo de vida

   Previous

   Hopper añadió el Transformer Engine, que combina cálculo en FP8 y en 16 bits para los modelos transformer, y los Tensor Cores de cuarta generación. (Contexto general sobre la arquitectura, no una afirmación sobre esta tarjeta en concreto.)

   Se lanzó en 2022. Los registros de Kovara lo indican como un componente de generación anterior.

3. 03Potencia y refrigeración

   MIG

   Compatible

   Multi-Instance GPU (MIG) puede dividir una GPU física en particiones aisladas, cada una con su propia memoria y su propia capacidad de cómputo, de modo que varias cargas de trabajo más pequeñas puedan compartir una tarjeta.

4. 04Para qué se usa

   Uso principal (registrado)

   AI training / inference / HPC

   Estos son los usos que Kovara ha registrado para este componente. Las notas explican la carga de trabajo en términos generales; no son afirmaciones sobre el rendimiento.

   • AI trainingEl entrenamiento de un modelo a partir de datos. Suele ser la fase que más cómputo y memoria exige, a menudo repartida entre muchas GPU.
   • inferenceLa ejecución de un modelo entrenado para responder solicitudes. La capacidad de memoria, la latencia y el costo por solicitud son las preocupaciones habituales.
   • HPCSimulación científica y de ingeniería, donde importan la precisión numérica y el ancho de banda de memoria.

Las cifras son datos maestros de Kovara, verificados por última vez el 25 sept 2026. Las explicaciones describen la tecnología en general; no son benchmarks y no dicen nada sobre el precio ni la disponibilidad.