Maskinvare
VRAM
Minnet på en GPU, målt i gigabyte. Det inneholder modellvektene, arbeidsdata og cacher mens GPU-en kjører.
Hvorfor det er viktig
Hvis en modell ikke får plass i VRAM, må den deles over flere GPU-er eller krympes, noe som endrer både kostnad og kompleksitet.
Vil du ha et grundigere svar?
Be Kova forklare VRAM i sammenheng med arbeidslasten din. Møt Kova →