Hardware
VRAM
Het geheugen op een GPU, gemeten in gigabytes. Het bevat de modelgewichten, werkdata en caches terwijl de GPU draait.
Waarom het ertoe doet
Als een model niet in het VRAM past, moet het over GPU’s worden verdeeld of worden verkleind, wat zowel de kosten als de complexiteit verandert.
Wilt u een diepgaander antwoord?
Vraag Kova om VRAM uit te leggen in de context van uw workload. Maak kennis met Kova →