Fine-tuning
Finjustering utgår från en tränad modell och anpassar den till din data. Den kräver betydligt mindre beräkningskapacitet än träning från grunden, vilket gör korta, flexibla hyresperioder attraktiva.
Det viktigaste
Ryms i minnet
Välj GPU:er med tillräckligt med VRAM för modellen och optimerarens tillstånd, eller använd minnessnåla metoder som byter lite hastighet mot utrymme.
Korta jobb i skurar
Körningar varar ofta från timmar till dagar, så prissättning per timme och snabb start spelar större roll än långa avtal.
Enkelt nätverk
En nod räcker ofta, så merkostnaden för en avancerad klustersammankoppling är oftast onödig.
Repeterbarhet
Du kommer att köra om experiment, så förutsägbar prissättning och enkel åtkomst är värdefullt.
En typisk uppsättning
En nod med flera GPU:er, eller till och med en enda GPU med stort minne, beroende på modellstorlek och metod.
Så köps det oftast
On-demand eller kortsiktig kapacitet är det vanliga valet. Spot kan fungera om ditt jobb sparar checkpoints och kan återupptas.
Vanliga misstag
- Att betala för klusternätverk som ett jobb på en nod inte använder.
- Att hoppa över checkpoints på avbrytbar kapacitet.
- Att underskatta kostnaderna för överföring och lagring av datamängder.
Begrepp att känna till
Det här är allmän vägledning, inte en rekommendation av en viss leverantör eller ett visst pris. Kontrollera aktuella erbjudanden och bekräfta tillgänglighet och villkor med leverantören.
Redo att titta på verkliga alternativ?
Se spårade erbjudanden med källor och datum, eller be Kova dimensionera åt dig.