Hardware
HBM
High Bandwidth Memory: gestapelter Speicher direkt neben dem GPU-Chip, damit Daten sehr schnell dorthin und von dort zurück übertragen werden können.
Warum das wichtig ist
KI-Workloads werden oft dadurch begrenzt, wie schnell der Speicher den Chip versorgen kann; Kapazität und Geschwindigkeit des HBM sind daher entscheidende Bestandteile des Werts einer GPU.
Verwandte Begriffe
Möchten Sie eine ausführlichere Antwort?
Bitten Sie Kova, HBM im Kontext Ihres Workloads zu erklären. Lernen Sie Kova kennen →