Hardware
VRAM
A memória de uma GPU, medida em gigabytes. Ela armazena os pesos do modelo, os dados de trabalho e os caches enquanto a GPU funciona.
Por que isso importa
Se um modelo não cabe na VRAM, ele precisa ser dividido entre GPUs ou reduzido, o que muda tanto o custo quanto a complexidade.
Quer uma resposta mais aprofundada?
Peça à Kova para explicar VRAM no contexto da sua carga de trabalho. Conheça a Kova →