Fine-tuning
O fine-tuning parte de um modelo treinado e o adapta aos seus dados. Exige muito menos capacidade computacional do que treinar do zero, o que torna atraentes os aluguéis curtos e flexíveis.
O que mais importa
Caber na memória
Escolha GPUs com VRAM suficiente para o modelo e o estado do otimizador, ou use métodos de economia de memória que trocam um pouco de velocidade por espaço.
Tarefas curtas e intermitentes
As execuções costumam durar de horas a dias, então o preço por hora e a inicialização rápida importam mais do que contratos longos.
Rede simples
Um nó costuma ser suficiente, então o custo extra de um fabric de cluster de alto nível geralmente é desnecessário.
Repetibilidade
Você vai repetir experimentos, então preços previsíveis e acesso fácil são valiosos.
Uma configuração típica
Um nó com várias GPUs, ou até uma única GPU com muita memória, dependendo do tamanho do modelo e do método.
Como costuma ser comprado
Capacidade on-demand ou de curto prazo é a escolha habitual. Spot pode funcionar se a sua tarefa salva checkpoints e pode ser retomada.
Erros comuns
- Pagar por uma rede de cluster que uma tarefa de nó único não usa.
- Pular checkpoints em capacidade interruptível.
- Subestimar os custos de transferência e armazenamento dos conjuntos de dados.
Termos para conhecer
Esta é uma orientação geral, não uma recomendação de um provedor ou preço específico. Consulte as ofertas atuais e confirme a disponibilidade e as condições com o provedor.
Pronto para ver opções reais?
Veja as ofertas acompanhadas, com suas fontes e datas, ou peça à Kova para fazer o dimensionamento para você.