GeForce RTX 3090 Founders / reference

Spesifikasjonene forklart

Brukes til AI og consumer compute

1. 0124 GB GDDR6X-minne

   VRAM

   24 GB

   Minnetype

   GDDR6X

   Minnebåndbredde

   0.936 TB/s

   GDDR er grafikkminne montert på kortet rundt GPU-en i stedet for stablet i pakken. Det er mye brukt på kort for grafikk, rendering og kostnadseffektiv inferens.

   VRAM er arbeidsområdet på kortet. Modellvekter, aktiveringer og datasett må få plass i det, eller deles over flere GPU-er. Tommelfingerregel for vektene alene ved 16-biters presisjon (omtrent 2 GB per milliard parametere): opptil om lag 12 milliarder parametere, før aktiveringer og cache. Dette er regning på registrert VRAM, ikke en benchmark.

2. 02Ampere-arkitektur

   Arkitektur

   Ampere

   Generasjon

   GeForce RTX 30

   Lanseringsår

   2020

   Livssyklusstatus

   Legacy

   Ampere brakte tredje generasjons tensorkjerner, TF32-presisjon og Multi-Instance GPU (MIG) til datasenterdelene sine. (Generell kontekst om arkitekturen, ikke en påstand om akkurat dette kortet.)

   Lansert i 2020. Kovaras registreringer oppfører den som en eldre del.

3. 03Bygget for å skalere over flere GPU-er

   NVLink

   Støttes

   MIG

   Støttes ikke

   Formfaktor

   PCIe consumer

   TDP

   350 W

   NVLink er en direkte kobling fra GPU til GPU. Der den støttes, kan GPU-er i samme server utveksle data raskere enn over PCIe alene, noe som betyr mye når én treningsjobb er fordelt over flere GPU-er.

   PCIe-kort settes inn i vanlige utvidelsesspor i servere og arbeidsstasjoner, noe som passer et bredt utvalg av systemer.

   TDP er den oppgitte termiske designeffekten: planleggingstallet for strømforsyning og kjøling i en server.

4. 04Hva den brukes til

   Primær bruk (registrert)

   AI / consumer compute

   Dette er bruksområdene Kovara har registrert for denne delen. Merknadene forklarer arbeidslasten i generelle termer; de er ikke påstander om ytelse.

   • AI
   • consumer computeKort som selges for gaming og innholdsproduksjon, og som også brukes til AI-eksperimenter.

Tallene er Kovaras stamdata, sist verifisert 03. sep. 2026. Forklaringene beskriver teknologien generelt; de er ikke benchmarks og sier ingenting om pris eller tilgjengelighet.