Hardware
HBM
High Bandwidth Memory: gestapelter Speicher direkt neben dem GPU-Chip, damit Daten sehr schnell dorthin und von dort zurück übertragen werden können.
Warum das wichtig ist
KI-Workloads werden oft dadurch begrenzt, wie schnell der Speicher den Chip versorgen kann; Kapazität und Geschwindigkeit des HBM sind daher entscheidende Bestandteile des Werts einer GPU.
Verwandte Begriffe
Möchten Sie eine ausführlichere Antwort?
Bitten Sie Kova, HBM im Kontext Ihres Workloads zu erklären.