Entra in memoria
Scegli GPU con VRAM sufficiente per il modello e per lo stato dell’ottimizzatore, oppure usa metodi che risparmiano memoria cedendo un po’ di velocità in cambio di spazio.
Loading
Traduzione dall’inglese. In caso di differenze prevale la versione inglese.
Il fine-tuning parte da un modello già addestrato e lo adatta ai tuoi dati. Richiede molta meno capacità di calcolo dell’addestramento da zero, il che rende interessanti i noleggi brevi e flessibili.
Scegli GPU con VRAM sufficiente per il modello e per lo stato dell’ottimizzatore, oppure usa metodi che risparmiano memoria cedendo un po’ di velocità in cambio di spazio.
Le esecuzioni spesso durano da qualche ora a qualche giorno, perciò il prezzo orario e l’avvio rapido contano più dei contratti lunghi.
Spesso basta un solo nodo, perciò il costo aggiuntivo di una rete di cluster di fascia alta di solito è superfluo.
Rieseguirai gli esperimenti, perciò prezzi prevedibili e un accesso semplice sono preziosi.
Un nodo con più GPU, o anche una sola GPU con molta memoria, a seconda delle dimensioni del modello e del metodo.
La scelta abituale è la capacità on-demand o a breve termine. Lo spot può andare bene se il tuo lavoro salva dei checkpoint e può riprendere.
Questa è una guida generale, non una raccomandazione per un provider o un prezzo specifico. Controlla le offerte attuali e conferma disponibilità e condizioni con il provider.
Guarda le offerte monitorate con le relative fonti e date, oppure chiedi a Kova di dimensionarlo per te.