Passt in den Speicher
Wählen Sie GPUs mit ausreichend VRAM für das Modell und den Optimizer-Zustand, oder nutzen Sie speicherschonende Methoden, die etwas Geschwindigkeit gegen Speicherplatz eintauschen.
Loading
Übersetzung aus dem Englischen. Bei Abweichungen gilt die englische Fassung.
Fine-Tuning geht von einem bereits trainierten Modell aus und passt es an Ihre Daten an. Es benötigt deutlich weniger Rechenleistung als das Training von Grund auf, wodurch kurze, flexible Anmietungen attraktiv sind.
Wählen Sie GPUs mit ausreichend VRAM für das Modell und den Optimizer-Zustand, oder nutzen Sie speicherschonende Methoden, die etwas Geschwindigkeit gegen Speicherplatz eintauschen.
Läufe dauern oft Stunden bis Tage, daher sind der Preis pro Stunde und ein schneller Start wichtiger als lange Verträge.
Oft genügt ein einzelner Knoten, daher sind die Mehrkosten für ein High-End-Cluster-Fabric in der Regel unnötig.
Sie werden Experimente erneut ausführen, daher sind planbare Preise und ein einfacher Zugang wertvoll.
Ein Knoten mit mehreren GPUs oder sogar eine einzelne GPU mit großem Speicher, je nach Modellgröße und Methode.
Üblich ist On-Demand- oder kurzfristige Kapazität. Spot kann funktionieren, wenn Ihr Job Checkpoints schreibt und fortgesetzt werden kann.
Dies ist eine allgemeine Orientierung, keine Empfehlung für einen bestimmten Anbieter oder Preis. Prüfen Sie aktuelle Angebote und bestätigen Sie Verfügbarkeit und Konditionen beim Anbieter.
Sehen Sie sich erfasste Angebote mit ihren Quellen und Datumsangaben an oder bitten Sie Kova, die Dimensionierung für Sie zu übernehmen.