Hardware
VRAM
Hukommelsen på en GPU, målt i gigabyte. Den rummer modelvægte, arbejdsdata og caches, mens GPU’en kører.
Hvorfor det er vigtigt
Hvis en model ikke kan være i VRAM, skal den fordeles på flere GPU’er eller gøres mindre, hvilket ændrer både omkostninger og kompleksitet.
Vil du have et mere dybdegående svar?
Bed Kova om at forklare VRAM i sammenhæng med din workload. Mød Kova →