H100 80GB — provider does not specify PCIe/SXM

Özelliklerin açıklaması

Kullanım alanları: AI training, inference ve HPC

1. 0180 GB bellek

   VRAM

   80 GB

   VRAM, kart üzerindeki çalışma alanıdır. Model ağırlıkları, aktivasyonlar ve veri kümeleri buna sığmalı ya da birkaç GPU’ya bölünmelidir. 16-bit hassasiyette yalnızca ağırlıklar için pratik kural (milyar parametre başına yaklaşık 2 GB): aktivasyonlar ve önbellek hariç, kabaca 40 milyar parametreye kadar. Bu, kaydedilen VRAM üzerinden yapılan bir hesaptır, benchmark değildir.

2. 02Hopper mimarisi

   Mimari

   Hopper

   Piyasaya çıkış yılı

   2022

   Yaşam döngüsü durumu

   Previous

   Hopper, transformer modelleri için FP8 ve 16-bit hesaplamayı birleştiren Transformer Engine’i ve dördüncü nesil Tensor Core’ları ekledi. (Mimari hakkında genel bağlam; bu kartla ilgili özel bir ifade değildir.)

   2022 yılında piyasaya çıktı. Kovara kayıtları bunu önceki nesil bir parça olarak listeliyor.

3. 03Güç ve soğutma

   MIG

   Destekleniyor

   Multi-Instance GPU (MIG), tek bir fiziksel GPU’yu her biri kendi belleği ve işlem gücüne sahip yalıtılmış dilimlere bölebilir; böylece birkaç küçük iş yükü bir kartı paylaşabilir.

4. 04Ne için kullanılır

   Birincil kullanım (kayıtlı)

   AI training / inference / HPC

   Bunlar Kovara’nın bu parça için kaydettiği kullanım alanlarıdır. Notlar iş yükünü genel olarak açıklar; performans iddiası değildir.

   • AI trainingBir modeli verilerden öğretmek. Genellikle işlem gücü ve bellek açısından en talepkâr aşamadır ve çoğu zaman çok sayıda GPU’ya yayılır.
   • inferenceİstekleri yanıtlamak için eğitilmiş bir modeli çalıştırmak. Bellek kapasitesi, gecikme ve istek başına maliyet olağan önceliklerdir.
   • HPCSayısal hassasiyetin ve bellek bant genişliğinin önemli olduğu bilimsel ve mühendislik simülasyonları.

Rakamlar Kovara ana verileridir, en son 25 Eyl 2026 tarihinde doğrulanmıştır. Açıklamalar teknolojiyi genel olarak anlatır; benchmark değildir ve fiyat ya da kullanılabilirlik hakkında hiçbir şey söylemez.