AI-workloads
Inferens
Kørsel af en trænet model for at give svar eller forudsigelser til brugere.
Hvorfor det er vigtigt
Inferens er som regel begrænset af hukommelse og latenstid snarere end af rå regnekraft og kører løbende, når du først har brugere.
Relaterede begreber
Vil du have et mere dybdegående svar?
Bed Kova om at forklare Inferens i sammenhæng med din workload. Mød Kova →