Hardware
VRAM
Der Speicher einer GPU, gemessen in Gigabyte. Er enthält die Modellgewichte, Arbeitsdaten und Caches, solange die GPU läuft.
Warum das wichtig ist
Passt ein Modell nicht in den VRAM, muss es auf mehrere GPUs aufgeteilt oder verkleinert werden, was sowohl Kosten als auch Komplexität verändert.
Möchten Sie eine ausführlichere Antwort?
Bitten Sie Kova, VRAM im Kontext Ihres Workloads zu erklären. Lernen Sie Kova kennen →