Cabe en la memoria
Elige GPU con suficiente VRAM para el modelo y el estado del optimizador, o usa métodos que ahorran memoria a cambio de perder algo de velocidad.
Loading
Traducción del inglés. En caso de discrepancia, prevalece la versión en inglés.
El fine-tuning parte de un modelo ya entrenado y lo adapta a tus datos. Requiere mucha menos capacidad de cómputo que entrenar desde cero, lo que hace atractivos los alquileres cortos y flexibles.
Elige GPU con suficiente VRAM para el modelo y el estado del optimizador, o usa métodos que ahorran memoria a cambio de perder algo de velocidad.
Las ejecuciones suelen durar de horas a días, así que el precio por hora y el arranque rápido importan más que los contratos largos.
Con frecuencia basta con un nodo, por lo que el costo adicional de una red de cluster de gama alta suele ser innecesario.
Repetirás experimentos, así que los precios predecibles y el acceso sencillo son valiosos.
Un nodo con varias GPU, o incluso una sola GPU con mucha memoria, según el tamaño del modelo y el método.
Lo habitual es la capacidad on-demand o a corto plazo. Spot puede funcionar si tu trabajo guarda checkpoints y puede reanudarse.
Esta es una guía general, no una recomendación sobre un proveedor o un precio concretos. Consulta las ofertas actuales y confirma la disponibilidad y las condiciones con el proveedor.
Consulta las ofertas en seguimiento con sus fuentes y fechas, o pide a Kova que lo dimensione por ti.