Hardware
HBM
High Bandwidth Memory: stablet hukommelse placeret ved siden af GPU-chippen, så data kan flyttes til og fra den meget hurtigt.
Hvorfor det er vigtigt
AI-workloads er ofte begrænset af, hvor hurtigt hukommelsen kan forsyne chippen, så HBM-kapacitet og -hastighed er centrale dele af en GPU’s værdi.
Relaterede begreber
Vil du have et mere dybdegående svar?
Bed Kova om at forklare HBM i sammenhæng med din workload. Mød Kova →