A100 MIG 20GB slice

Specyfikacje w objaśnieniu

Zastosowania: AI training i inference

1. 0120 GB pamięci

   VRAM

   20 GB

   VRAM to przestrzeń robocza karty. Wagi modelu, aktywacje i zbiory danych muszą się w niej zmieścić albo zostać podzielone między kilka GPU. Praktyczna reguła dla samych wag przy precyzji 16-bitowej (około 2 GB na miliard parametrów): maksymalnie około 10 mld parametrów, przed uwzględnieniem aktywacji i bufora. To arytmetyka na podstawie odnotowanej VRAM, a nie benchmark.

2. 02Architektura Ampere

   Architektura

   Ampere

   Rok premiery

   2020

   Status cyklu życia

   Previous

   Ampere wprowadził do układów dla centrów danych rdzenie Tensor Core trzeciej generacji, precyzję TF32 i Multi-Instance GPU (MIG). (Ogólny kontekst dotyczący architektury, a nie stwierdzenie o tej konkretnej karcie.)

   Premiera w 2020. Według rekordów Kovara jest to układ poprzedniej generacji.

3. 03Zasilanie i chłodzenie

   MIG

   Obsługiwane

   Multi-Instance GPU (MIG) może podzielić jeden fizyczny GPU na odizolowane części, każdą z własną pamięcią i mocą obliczeniową, dzięki czemu kilka mniejszych obciążeń może współdzielić kartę.

4. 04Do czego służy

   Główne zastosowanie (odnotowane)

   AI training / inference

   To zastosowania, które Kovara odnotowała dla tego układu. Uwagi wyjaśniają obciążenie w ogólnych kategoriach; nie są deklaracjami wydajności.

   • AI trainingUczenie modelu na danych. Zwykle faza najbardziej wymagająca pod względem mocy obliczeniowej i pamięci, często rozłożona na wiele GPU.
   • inferenceUruchamianie wytrenowanego modelu w celu obsługi zapytań. Typowe kwestie to pojemność pamięci, opóźnienia i koszt na zapytanie.

Wartości pochodzą z danych podstawowych Kovara, ostatnia weryfikacja 25 wrz 2026. Objaśnienia opisują technologię ogólnie; nie są benchmarkami i nie mówią nic o cenie ani dostępności.