Finjustering
Finjustering starter fra en trent modell og tilpasser den til dine data. Det krever langt mindre datakraft enn trening fra bunnen av, noe som gjør korte, fleksible leieforhold attraktive.
Det viktigste
Får plass i minnet
Velg GPU-er med nok VRAM til modellen og optimaliseringstilstanden, eller bruk minnebesparende metoder som bytter litt hastighet mot plass.
Korte jobber i støt
Kjøringene varer ofte fra timer til dager, så timepriser og rask oppstart betyr mer enn lange kontrakter.
Enkelt nettverk
Én node er ofte nok, så merkostnaden for et avansert klyngefabric er vanligvis unødvendig.
Repeterbarhet
Du kommer til å kjøre eksperimenter på nytt, så forutsigbare priser og enkel tilgang er verdifullt.
Et typisk oppsett
Én node med flere GPU-er, eller til og med én enkelt GPU med stort minne, avhengig av modellstørrelse og metode.
Slik kjøpes det vanligvis
On-demand eller kortsiktig kapasitet er det vanlige valget. Spot kan fungere hvis jobben lagrer sjekkpunkter og kan gjenopptas.
Vanlige feil
- Å betale for klyngenettverk som en jobb på én node ikke bruker.
- Å hoppe over sjekkpunkter på avbrytbar kapasitet.
- Å undervurdere kostnadene for overføring og lagring av datasett.
Begreper du bør kjenne
Dette er generell veiledning, ikke en anbefaling av en bestemt leverandør eller pris. Se aktuelle tilbud og bekreft tilgjengelighet og vilkår med leverandøren.
Klar til å se på reelle alternativer?
Se sporede tilbud med kilder og datoer, eller be Kova dimensjonere det for deg.