Hardware
VRAM
La memoria de una GPU, medida en gigabytes. Contiene los pesos del modelo, los datos de trabajo y las cachés mientras la GPU está en funcionamiento.
Por qué importa
Si un modelo no cabe en la VRAM, hay que dividirlo entre varias GPU o reducirlo, lo que cambia tanto el costo como la complejidad.
¿Quieres una respuesta más detallada?
Pide a Kova que explique VRAM en el contexto de tu carga de trabajo. Conoce a Kova →