H20 141GB HBM3e

Specyfikacje w objaśnieniu

Zastosowania: Large-model inference i AI training

1. 01141 GB pamięci HBM3E

   VRAM

   141 GB

   Typ pamięci

   HBM3E

   Przepustowość pamięci

   4 TB/s

   HBM (High Bandwidth Memory) jest ułożona warstwowo w stosach i umieszczona tuż obok procesora w tej samej obudowie. Ta krótka, szeroka ścieżka zapewnia akceleratorom z HBM ich przepustowość pamięci, dlatego wybiera się je zwykle do prac ograniczonych szybkością docierania danych do rdzeni, takich jak inferencja dużych modeli i symulacje HPC.

   VRAM to przestrzeń robocza karty. Wagi modelu, aktywacje i zbiory danych muszą się w niej zmieścić albo zostać podzielone między kilka GPU. Praktyczna reguła dla samych wag przy precyzji 16-bitowej (około 2 GB na miliard parametrów): maksymalnie około 70 mld parametrów, przed uwzględnieniem aktywacji i bufora. To arytmetyka na podstawie odnotowanej VRAM, a nie benchmark.

2. 02Architektura Hopper

   Architektura

   Hopper

   Rok premiery

   2025

   Status cyklu życia

   Current

   Hopper dodał Transformer Engine, który łączy obliczenia FP8 i 16-bitowe dla modeli transformerowych, oraz rdzenie Tensor Core czwartej generacji. (Ogólny kontekst dotyczący architektury, a nie stwierdzenie o tej konkretnej karcie.)

   Premiera w 2025. Według rekordów Kovara jest to układ bieżącej generacji.

3. 03Zaprojektowany do skalowania na wiele GPU

   NVLink

   Obsługiwane

   MIG

   Obsługiwane

   Format

   HGX SXM5 / 8-GPU platform

   TDP

   400 W

   NVLink to bezpośrednie połączenie GPU–GPU. Tam, gdzie jest obsługiwane, GPU w tym samym serwerze mogą wymieniać dane szybciej niż przez samo PCIe, co ma znaczenie, gdy jedno zadanie treningowe jest rozłożone na kilka GPU.

   Multi-Instance GPU (MIG) może podzielić jeden fizyczny GPU na odizolowane części, każdą z własną pamięcią i mocą obliczeniową, dzięki czemu kilka mniejszych obciążeń może współdzielić kartę.

   Moduły SXM są montowane bezpośrednio na płycie bazowej serwera zamiast wkładania ich jako kart; taki układ stosuje się zwykle w gęstych serwerach z wieloma GPU.

   TDP to znamionowa moc cieplna: wartość planistyczna dla zasilania i chłodzenia w serwerze.

4. 04Do czego służy

   Główne zastosowanie (odnotowane)

   Large-model inference / AI training

   To zastosowania, które Kovara odnotowała dla tego układu. Uwagi wyjaśniają obciążenie w ogólnych kategoriach; nie są deklaracjami wydajności.

   • Large-model inferenceUruchamianie wytrenowanego modelu w celu obsługi zapytań. Typowe kwestie to pojemność pamięci, opóźnienia i koszt na zapytanie.
   • AI trainingUczenie modelu na danych. Zwykle faza najbardziej wymagająca pod względem mocy obliczeniowej i pamięci, często rozłożona na wiele GPU.

Wartości pochodzą z danych podstawowych Kovara, ostatnia weryfikacja 03 wrz 2026. Objaśnienia opisują technologię ogólnie; nie są benchmarkami i nie mówią nic o cenie ani dostępności.