Generering af billeder og video
Billed- og videomodeller kræver meget regnekraft pr. output og kører ofte som batchjob eller interaktive tjenester. Det afgørende er throughput pr. dollar og nok hukommelse til store billeder.
Det vigtigste
Hukommelse til opløsning
Højere opløsninger og længere videoklip kræver mere VRAM. Især video kan være begrænset af hukommelsen.
Throughput
Batchgenerering belønner GPU’er, der leverer mange output i timen, så sammenlign omkostning pr. output, ikke kun pr. GPU-hour.
Elasticitet
Efterspørgslen svinger. Det sparer penge at skalere op til en rendering og ned igen.
Lagring og egress
Genererede medier er store. Det kan koste reelle penge at flytte dem ud af en udbyder.
En typisk opsætning
Noder med en enkelt GPU eller få GPU’er er almindelige. Vælg efter VRAM-margin til din målopløsning.
Sådan købes det typisk
On-demand til spidsbelastninger, reserveret eller bunden kapacitet til stabil produktion og spot til offline batchrenderinger, der kan prøves igen.
Almindelige fejl
- At vælge en GPU efter maksimal FLOPS uden at kontrollere VRAM til din opløsning.
- At ignorere egress for store medieoutput.
- At betale for kapacitet, der altid er tændt, ved svingende efterspørgsel.
Begreber, du bør kende
Dette er generel vejledning, ikke en anbefaling af en bestemt udbyder eller pris. Se de aktuelle tilbud, og bekræft tilgængelighed og vilkår med udbyderen.
Klar til at se på reelle muligheder?
Se fulgte tilbud med deres kilder og datoer, eller bed Kova om at dimensionere det for dig.