H100 NVLink 80GB — Hyperstack flavor

المواصفات مشروحة

يُستخدم في AI training, inference وHPC

1. 0180 GB من الذاكرة

   VRAM

   80 GB

   VRAM هي مساحة العمل على البطاقة. ويجب أن تتسع لها أوزان النموذج والتنشيطات ومجموعات البيانات، أو أن تُقسَّم على عدة وحدات GPU. قاعدة تقريبية للأوزان وحدها بدقة 16-bit (نحو 2 GB لكل مليار معامل): ما يصل إلى 40 مليار معامل تقريبًا، قبل حساب التنشيطات والذاكرة المؤقتة. هذا حساب على VRAM المسجلة، وليس مقياسًا مرجعيًا.

2. 02بنية Hopper

   البنية

   Hopper

   سنة الإطلاق

   2022

   حالة دورة الحياة

   Previous

   أضافت Hopper محرك Transformer، الذي يمزج بين حسابات FP8 و16-bit لنماذج المحولات، والجيل الرابع من أنوية Tensor. (سياق عام عن البنية، وليس بيانًا عن هذه البطاقة تحديدًا.)

   أُطلق في 2022. تدرجها سجلات Kovara على أنها قطعة من الجيل السابق.

3. 03مصممة للتوسع عبر وحدات GPU

   NVLink

   مدعوم

   MIG

   مدعوم

   NVLink رابط مباشر من GPU إلى GPU. وحيثما يكون مدعومًا، تستطيع وحدات GPU في الخادم نفسه تبادل البيانات أسرع مما عبر PCIe وحده، وهذا مهم عندما تُوزَّع مهمة تدريب واحدة على عدة وحدات GPU.

   تستطيع ميزة GPU متعددة المثيلات (MIG) تقسيم وحدة GPU مادية واحدة إلى شرائح معزولة، لكل منها ذاكرتها وقدرتها الحوسبية، فتتشارك عدة أعباء عمل أصغر بطاقة واحدة.

4. 04فيمَ تُستخدم

   الاستخدام الرئيسي (المسجل)

   AI training / inference / HPC

   هذه هي الاستخدامات التي سجلتها Kovara لهذه القطعة. وتشرح الملاحظات عبء العمل بعبارات عامة؛ وليست ادعاءات أداء.

   • AI trainingتعليم النموذج من البيانات. وعادةً ما تكون المرحلة الأكثر استهلاكًا للحوسبة والذاكرة، وغالبًا ما تُوزَّع على كثير من وحدات GPU.
   • inferenceتشغيل نموذج مدرَّب للرد على الطلبات. وسعة الذاكرة وزمن الاستجابة وتكلفة الطلب هي الاهتمامات المعتادة.
   • HPCالمحاكاة العلمية والهندسية، حيث تهم الدقة العددية وعرض النطاق الترددي للذاكرة.

الأرقام من البيانات المرجعية الرئيسية لدى Kovara، وآخر تحقق منها في 25 سبتمبر 2026. تصف الشروحات التقنية بوجه عام؛ وليست مقاييس مرجعية ولا تقول شيئًا عن السعر أو التوفر.