KI-Workloads
Inferenz
Ausführen eines trainierten Modells, um Antworten oder Vorhersagen für Nutzer zu erzeugen.
Warum das wichtig ist
Inferenz wird in der Regel eher durch Speicher und Latenz als durch reine Rechenleistung begrenzt und läuft dauerhaft, sobald Sie Nutzer haben.
Verwandte Begriffe
Möchten Sie eine ausführlichere Antwort?
Bitten Sie Kova, Inferenz im Kontext Ihres Workloads zu erklären. Lernen Sie Kova kennen →