Fine-tuning
Fine-tuning lähtee jo koulutetusta mallista ja mukauttaa sen omaan dataasi. Se vaatii paljon vähemmän laskentakapasiteettia kuin koulutus alusta alkaen, minkä vuoksi lyhyet, joustavat vuokraukset ovat houkuttelevia.
Mikä on tärkeintä
Mahtuu muistiin
Valitse GPU:t, joissa on riittävästi VRAM-muistia mallia ja optimoijan tilaa varten, tai käytä muistia säästäviä menetelmiä, jotka uhraavat hieman nopeutta tilan hyväksi.
Lyhyet, purskeiset työt
Ajot kestävät usein tunneista päiviin, joten tuntihinnoittelu ja nopea käynnistys ovat tärkeämpiä kuin pitkät sopimukset.
Yksinkertainen verkko
Yksi solmu riittää usein, joten huippuluokan klusteriverkon lisäkustannus on yleensä tarpeeton.
Toistettavuus
Tulet ajamaan kokeita uudelleen, joten ennustettava hinnoittelu ja helppo pääsy ovat arvokkaita.
Tyypillinen kokoonpano
Yksi solmu, jossa on useita GPU:ita, tai jopa yksi suuren muistin GPU, mallin koosta ja menetelmästä riippuen.
Miten se yleensä hankitaan
Tavallinen valinta on on-demand-kapasiteetti tai lyhytaikainen kapasiteetti. Spot voi toimia, jos työsi tallentaa tarkistuspisteitä ja sen suoritusta voi jatkaa.
Yleiset virheet
- Maksaminen klusteriverkosta, jota yhden solmun työ ei käytä.
- Tarkistuspisteiden ohittaminen keskeytettävällä kapasiteetilla.
- Aineistojen siirto- ja tallennuskustannusten aliarviointi.
Tärkeät termit
Tämä on yleinen ohje, ei suositus tietylle toimittajalle tai hinnalle. Tarkista nykyiset tarjoomat ja vahvista saatavuus ja ehdot toimittajan kanssa.
Valmis tarkastelemaan todellisia vaihtoehtoja?
Katso seuratut tarjoomat lähteineen ja päivämäärineen tai pyydä Kova-agenttia mitoittamaan se sinulle.