GeForce RTX 3090 Founders / reference

Specifikationerne forklaret

Bruges til AI og consumer compute

1. 0124 GB GDDR6X-hukommelse

   VRAM

   24 GB

   Hukommelsestype

   GDDR6X

   Hukommelsesbåndbredde

   0.936 TB/s

   GDDR er grafikhukommelse, der er monteret på kortet omkring GPU’en i stedet for at være stablet i pakken. Den er udbredt på kort til grafik, rendering og omkostningseffektiv inferens.

   VRAM er arbejdsområdet på kortet. Modelvægte, aktiveringer og datasæt skal kunne være der eller fordeles på flere GPU’er. Tommelfingerregel for vægtene alene ved 16-bit præcision (ca. 2 GB pr. milliard parametre): op til omkring 12 milliarder parametre, før aktiveringer og cache. Det er en beregning på den registrerede VRAM, ikke en benchmark.

2. 02Ampere-arkitektur

   Arkitektur

   Ampere

   Generation

   GeForce RTX 30

   Lanceringsår

   2020

   Livscyklusstatus

   Legacy

   Ampere bragte tredje generation af Tensor Cores, TF32-præcision og Multi-Instance GPU (MIG) til sine datacenterkomponenter. (Generel kontekst om arkitekturen, ikke et udsagn om dette specifikke kort.)

   Lanceret i 2020. Kovaras poster angiver den som en ældre del.

3. 03Bygget til at skalere på tværs af GPU’er

   NVLink

   Understøttet

   MIG

   Ikke understøttet

   Formfaktor

   PCIe consumer

   TDP

   350 W

   NVLink er en direkte GPU-til-GPU-forbindelse. Hvor den understøttes, kan GPU’er i samme server udveksle data hurtigere end over PCIe alene, hvilket har betydning, når ét træningsjob er fordelt på flere GPU’er.

   PCIe-kort sættes i almindelige udvidelsesstik i servere og workstations, hvilket passer til en bred vifte af systemer.

   TDP er den nominelle thermal design power: planlægningstallet for strømforsyning og køling i en server.

4. 04Hvad den bruges til

   Primær anvendelse (registreret)

   AI / consumer compute

   Det er de anvendelser, Kovara har registreret for denne komponent. Noterne forklarer workloaden i generelle vendinger; de er ikke påstande om ydeevne.

   • AI
   • consumer computeKort, der sælges til gaming og indholdsproduktion, og som også bruges til AI-eksperimenter.

Tallene er Kovaras stamdata, senest verificeret 03. sep. 2026. Forklaringerne beskriver teknologien generelt; de er ikke benchmarks og siger intet om pris eller tilgængelighed.