GeForce RTX 3090 Founders / reference

Spezifikationen erklärt

Eingesetzt für AI und consumer compute

1. 0124 GB GDDR6X-Speicher

   VRAM

   24 GB

   Speichertyp

   GDDR6X

   Speicherbandbreite

   0.936 TB/s

   GDDR ist Grafikspeicher, der auf der Platine rund um die GPU montiert ist, statt auf dem Package gestapelt zu sein. Er wird häufig auf Karten für Grafik, Rendering und kostengünstige Inferenz eingesetzt.

   VRAM ist der Arbeitsspeicher auf der Karte. Modellgewichte, Aktivierungen und Datensätze müssen darin Platz finden oder auf mehrere GPUs verteilt werden. Faustregel allein für die Gewichte bei 16-Bit-Genauigkeit (etwa 2 GB pro Milliarde Parameter): bis zu etwa 12 Milliarden Parameter, vor Aktivierungen und Cache. Das ist eine Rechnung auf Basis des erfassten VRAM, kein Benchmark.

2. 02Ampere-Architektur

   Architektur

   Ampere

   Generation

   GeForce RTX 30

   Einführungsjahr

   2020

   Lebenszyklusstatus

   Legacy

   Ampere brachte Tensor Cores der dritten Generation, TF32-Genauigkeit und Multi-Instance GPU (MIG) in seine Komponenten für Rechenzentren. (Allgemeiner Kontext zur Architektur, keine Aussage über diese konkrete Karte.)

   Im Jahr 2020 eingeführt. Die Datensätze von Kovara führen es als Legacy-Komponente.

3. 03Für die Skalierung über mehrere GPUs ausgelegt

   NVLink

   Unterstützt

   MIG

   Nicht unterstützt

   Formfaktor

   PCIe consumer

   TDP

   350 W

   NVLink ist eine direkte GPU-zu-GPU-Verbindung. Wo sie unterstützt wird, können GPUs im selben Server Daten schneller austauschen als allein über PCIe, was relevant ist, wenn ein einzelner Trainingsjob auf mehrere GPUs verteilt wird.

   PCIe-Karten werden in die Standard-Erweiterungssteckplätze von Servern und Workstations gesteckt, was zu einer breiten Palette von Systemen passt.

   TDP ist die nominelle Thermal Design Power: der Planungswert für Stromversorgung und Kühlung in einem Server.

4. 04Wofür es eingesetzt wird

   Hauptverwendung (erfasst)

   AI / consumer compute

   Dies sind die Verwendungszwecke, die Kovara für diese Komponente erfasst hat. Die Hinweise erläutern den Workload allgemein; sie sind keine Leistungsaussagen.

   • AI
   • consumer computeFür Gaming und Kreativarbeit verkaufte Karten, die auch für KI-Experimente genutzt werden.

Die Zahlen sind Kovara-Stammdaten, zuletzt verifiziert am 03. Sept. 2026. Die Erläuterungen beschreiben die Technologie allgemein; sie sind keine Benchmarks und sagen nichts über Preis oder Verfügbarkeit aus.