AI-workloads
Inferentie
Een getraind model draaien om antwoorden of voorspellingen voor gebruikers te produceren.
Waarom het ertoe doet
Inferentie wordt meestal eerder begrensd door geheugen en latentie dan door ruwe rekenkracht, en draait continu zodra u gebruikers hebt.
Gerelateerde termen
Wilt u een diepgaander antwoord?
Vraag Kova om Inferentie uit te leggen in de context van uw workload. Maak kennis met Kova →