Fine-tuning
Dostrajanie zaczyna się od wytrenowanego modelu i dostosowuje go do twoich danych. Wymaga znacznie mniej mocy obliczeniowej niż trening od zera, co sprawia, że krótkie, elastyczne wynajmy są atrakcyjne.
Co jest najważniejsze
Mieści się w pamięci
Wybierz GPU z wystarczającą ilością VRAM na model i stan optymalizatora albo użyj metod oszczędzających pamięć, które wymieniają odrobinę szybkości na miejsce.
Krótkie, zrywowe zadania
Przebiegi trwają często od kilku godzin do kilku dni, więc ceny godzinowe i szybkie uruchomienie liczą się bardziej niż długie umowy.
Prosta sieć
Często wystarcza jeden węzeł, więc dodatkowy koszt wysokiej klasy sieci klastrowej jest zwykle zbędny.
Powtarzalność
Będziesz powtarzać eksperymenty, więc przewidywalne ceny i łatwy dostęp są cenne.
Typowa konfiguracja
Jeden węzeł z kilkoma GPU, a nawet pojedynczy GPU z dużą pamięcią, w zależności od rozmiaru modelu i metody.
Jak to się zwykle kupuje
Zwykle wybiera się moc on-demand lub krótkoterminową. Spot może się sprawdzić, jeśli zadanie zapisuje checkpointy i może zostać wznowione.
Częste błędy
- Płacenie za sieć klastrową, której zadanie jednowęzłowe nie wykorzystuje.
- Pomijanie checkpointów na mocy z możliwością przerwania.
- Niedoszacowanie kosztów transferu i przechowywania zbiorów danych.
Pojęcia, które warto znać
To ogólne wskazówki, a nie rekomendacja konkretnego dostawcy ani ceny. Sprawdź bieżące oferty i potwierdź dostępność oraz warunki u dostawcy.
Chcesz zobaczyć prawdziwe opcje?
Zobacz śledzone oferty z ich źródłami i datami albo poproś asystenta Kova o dobór rozmiaru.