Matériel
VRAM
La mémoire d’un GPU, mesurée en gigaoctets. Elle contient les poids du modèle, les données de travail et les caches pendant que le GPU fonctionne.
Pourquoi c’est important
Si un modèle ne tient pas dans la VRAM, il doit être réparti sur plusieurs GPU ou réduit, ce qui modifie à la fois le coût et la complexité.
Vous souhaitez une réponse plus approfondie ?
Demandez à Kova d’expliquer VRAM dans le contexte de votre charge de travail. Découvrez Kova →