L40 48GB

Özelliklerin açıklaması

Kullanım alanları: AI inference, graphics ve virtual workstation

1. 0148 GB GDDR6 bellek

   VRAM

   48 GB

   Bellek türü

   GDDR6

   Bellek bant genişliği

   0.864 TB/s

   GDDR, paket üzerinde yığılmak yerine kart üzerinde GPU’nun etrafına monte edilen grafik belleğidir. Grafik, render ve maliyet açısından verimli çıkarım kartlarında yaygın olarak kullanılır.

   VRAM, kart üzerindeki çalışma alanıdır. Model ağırlıkları, aktivasyonlar ve veri kümeleri buna sığmalı ya da birkaç GPU’ya bölünmelidir. 16-bit hassasiyette yalnızca ağırlıklar için pratik kural (milyar parametre başına yaklaşık 2 GB): aktivasyonlar ve önbellek hariç, kabaca 24 milyar parametreye kadar. Bu, kaydedilen VRAM üzerinden yapılan bir hesaptır, benchmark değildir.

2. 02Ada Lovelace mimarisi

   Mimari

   Ada Lovelace

   Nesil

   Ada Data Center

   Piyasaya çıkış yılı

   2022

   Yaşam döngüsü durumu

   Previous

   Ada Lovelace, FP8 destekli dördüncü nesil Tensor Core’lar ve üçüncü nesil ışın izleme çekirdekleri getirdi. (Mimari hakkında genel bağlam; bu kartla ilgili özel bir ifade değildir.)

   2022 yılında piyasaya çıktı. Kovara kayıtları bunu önceki nesil bir parça olarak listeliyor.

3. 03Form faktörü ve güç

   NVLink

   Desteklenmiyor

   MIG

   Desteklenmiyor

   Form faktörü

   PCIe dual-slot FHFL

   TDP

   300 W

   Kovara kayıtları NVLink desteği göstermiyor; bu nedenle bu parçadaki çoklu GPU işleri, veri taşımak için PCIe’ye veya sunucular arasındaki ağa dayanır.

   PCIe kartlar standart sunucu ve iş istasyonu genişleme yuvalarına takılır; bu da geniş bir sistem yelpazesine uygundur.

   TDP, nominal termal tasarım gücüdür: bir sunucuda güç dağıtımı ve soğutma için planlama rakamı.

4. 04Ne için kullanılır

   Birincil kullanım (kayıtlı)

   AI inference / graphics / virtual workstation

   Bunlar Kovara’nın bu parça için kaydettiği kullanım alanlarıdır. Notlar iş yükünü genel olarak açıklar; performans iddiası değildir.

   • AI inferenceİstekleri yanıtlamak için eğitilmiş bir modeli çalıştırmak. Bellek kapasitesi, gecikme ve istek başına maliyet olağan önceliklerdir.
   • graphicsEtkileşimli grafik ve profesyonel tasarım ya da mühendislik uygulamaları.
   • virtual workstationBir GPU’yu uzak masaüstleri ve sanal iş istasyonları arasında paylaşmak.

Rakamlar Kovara ana verileridir, en son 03 Eyl 2026 tarihinde doğrulanmıştır. Açıklamalar teknolojiyi genel olarak anlatır; benchmark değildir ve fiyat ya da kullanılabilirlik hakkında hiçbir şey söylemez.