AI वर्कलोड
इन्फ़रेंस
उपयोगकर्ताओं के लिए जवाब या अनुमान तैयार करने के लिए किसी ट्रेन किए गए मॉडल को चलाना।
यह क्यों मायने रखता है
इन्फ़रेंस आमतौर पर कच्चे कंप्यूट के बजाय मेमोरी और लेटेंसी से सीमित होता है, और उपयोगकर्ता आने के बाद लगातार चलता है।
संबंधित शब्द
और गहराई से जवाब चाहिए?
Kova से कहें कि वह आपके वर्कलोड के संदर्भ में इन्फ़रेंस समझाए। Kova से मिलें →
