GB300 NVL72 / 288GB per GPU

المواصفات مشروحة

يُستخدم في Frontier AI training, reasoning inference وHPC

1. 01288 GB من ذاكرة HBM3E

   VRAM

   288 GB

   نوع الذاكرة

   HBM3E

   عرض النطاق الترددي للذاكرة

   8 TB/s

   تُكدَّس ذاكرة HBM (الذاكرة عالية النطاق الترددي) في طبقات وتقع بجوار المعالج مباشرة على الحزمة نفسها. وهذا المسار القصير والعريض هو ما يمنح المسرعات المزودة بـ HBM عرض النطاق الترددي لذاكرتها، لذا تُختار عادةً للأعمال المحدودة بسرعة وصول البيانات إلى الأنوية، مثل الاستدلال على النماذج الكبيرة ومحاكاة HPC.

   VRAM هي مساحة العمل على البطاقة. ويجب أن تتسع لها أوزان النموذج والتنشيطات ومجموعات البيانات، أو أن تُقسَّم على عدة وحدات GPU. قاعدة تقريبية للأوزان وحدها بدقة 16-bit (نحو 2 GB لكل مليار معامل): ما يصل إلى 144 مليار معامل تقريبًا، قبل حساب التنشيطات والذاكرة المؤقتة. هذا حساب على VRAM المسجلة، وليس مقياسًا مرجعيًا.

2. 02بنية Blackwell Ultra + Grace

   البنية

   Blackwell Ultra + Grace

   الجيل

   Grace Blackwell Ultra

   سنة الإطلاق

   2025

   حالة دورة الحياة

   Current

   أُطلق في 2025. تدرجها سجلات Kovara على أنها قطعة من الجيل الحالي.

3. 03مصممة للتوسع عبر وحدات GPU

   NVLink

   مدعوم

   MIG

   مدعوم

   عامل الشكل

   Rack-scale NVL module

   TDP

   1400 W

   NVLink رابط مباشر من GPU إلى GPU. وحيثما يكون مدعومًا، تستطيع وحدات GPU في الخادم نفسه تبادل البيانات أسرع مما عبر PCIe وحده، وهذا مهم عندما تُوزَّع مهمة تدريب واحدة على عدة وحدات GPU.

   تستطيع ميزة GPU متعددة المثيلات (MIG) تقسيم وحدة GPU مادية واحدة إلى شرائح معزولة، لكل منها ذاكرتها وقدرتها الحوسبية، فتتشارك عدة أعباء عمل أصغر بطاقة واحدة.

   TDP هي القدرة الحرارية التصميمية المقدرة: الرقم المعتمد في التخطيط لإمداد الطاقة والتبريد في الخادم.

4. 04فيمَ تُستخدم

   الاستخدام الرئيسي (المسجل)

   Frontier AI training / reasoning inference / HPC

   هذه هي الاستخدامات التي سجلتها Kovara لهذه القطعة. وتشرح الملاحظات عبء العمل بعبارات عامة؛ وليست ادعاءات أداء.

   • Frontier AI trainingتعليم النموذج من البيانات. وعادةً ما تكون المرحلة الأكثر استهلاكًا للحوسبة والذاكرة، وغالبًا ما تُوزَّع على كثير من وحدات GPU.
   • reasoning inferenceتشغيل نموذج مدرَّب للرد على الطلبات. وسعة الذاكرة وزمن الاستجابة وتكلفة الطلب هي الاهتمامات المعتادة.
   • HPCالمحاكاة العلمية والهندسية، حيث تهم الدقة العددية وعرض النطاق الترددي للذاكرة.

الأرقام من البيانات المرجعية الرئيسية لدى Kovara، وآخر تحقق منها في 03 سبتمبر 2026. تصف الشروحات التقنية بوجه عام؛ وليست مقاييس مرجعية ولا تقول شيئًا عن السعر أو التوفر.