Tient en mémoire
Choisissez des GPU dotés de suffisamment de VRAM pour le modèle et l’état de l’optimiseur, ou recourez à des méthodes économes en mémoire qui sacrifient un peu de vitesse pour gagner de la place.
Loading
Traduction de l’anglais. En cas de divergence, la version anglaise prévaut.
Le fine-tuning part d’un modèle déjà entraîné et l’adapte à vos données. Il demande beaucoup moins de puissance de calcul qu’un entraînement à partir de zéro, ce qui rend intéressantes les locations courtes et flexibles.
Choisissez des GPU dotés de suffisamment de VRAM pour le modèle et l’état de l’optimiseur, ou recourez à des méthodes économes en mémoire qui sacrifient un peu de vitesse pour gagner de la place.
Les exécutions durent souvent de quelques heures à quelques jours : une tarification à l’heure et un démarrage rapide comptent donc plus que des contrats longs.
Un seul nœud suffit souvent ; le surcoût d’un réseau de cluster haut de gamme est donc généralement inutile.
Vous relancerez des expériences : des prix prévisibles et un accès simple ont donc de la valeur.
Un nœud comportant plusieurs GPU, voire un seul GPU à grande mémoire, selon la taille du modèle et la méthode.
La capacité on-demand ou à court terme est le choix habituel. Le spot peut convenir si votre tâche enregistre des checkpoints et peut reprendre.
Il s’agit d’un guide général, et non d’une recommandation portant sur un fournisseur ou un prix précis. Consultez les offres actuelles et confirmez la disponibilité et les conditions auprès du fournisseur.
Consultez les offres suivies avec leurs sources et leurs dates, ou demandez à Kova de faire le dimensionnement pour vous.