A100 40GB SXM

المواصفات مشروحة

يُستخدم في AI training, inference وHPC

1. 0140 GB من ذاكرة HBM2

   VRAM

   40 GB

   نوع الذاكرة

   HBM2

   عرض النطاق الترددي للذاكرة

   1.555 TB/s

   تُكدَّس ذاكرة HBM (الذاكرة عالية النطاق الترددي) في طبقات وتقع بجوار المعالج مباشرة على الحزمة نفسها. وهذا المسار القصير والعريض هو ما يمنح المسرعات المزودة بـ HBM عرض النطاق الترددي لذاكرتها، لذا تُختار عادةً للأعمال المحدودة بسرعة وصول البيانات إلى الأنوية، مثل الاستدلال على النماذج الكبيرة ومحاكاة HPC.

   VRAM هي مساحة العمل على البطاقة. ويجب أن تتسع لها أوزان النموذج والتنشيطات ومجموعات البيانات، أو أن تُقسَّم على عدة وحدات GPU. قاعدة تقريبية للأوزان وحدها بدقة 16-bit (نحو 2 GB لكل مليار معامل): ما يصل إلى 20 مليار معامل تقريبًا، قبل حساب التنشيطات والذاكرة المؤقتة. هذا حساب على VRAM المسجلة، وليس مقياسًا مرجعيًا.

2. 02بنية Ampere

   البنية

   Ampere

   سنة الإطلاق

   2020

   حالة دورة الحياة

   Previous

   جلبت Ampere الجيل الثالث من أنوية Tensor ودقة TF32 وميزة GPU متعددة المثيلات (MIG) إلى قطعها المخصصة لمراكز البيانات. (سياق عام عن البنية، وليس بيانًا عن هذه البطاقة تحديدًا.)

   أُطلق في 2020. تدرجها سجلات Kovara على أنها قطعة من الجيل السابق.

3. 03مصممة للتوسع عبر وحدات GPU

   NVLink

   مدعوم

   MIG

   مدعوم

   عامل الشكل

   SXM

   TDP

   400 W

   NVLink رابط مباشر من GPU إلى GPU. وحيثما يكون مدعومًا، تستطيع وحدات GPU في الخادم نفسه تبادل البيانات أسرع مما عبر PCIe وحده، وهذا مهم عندما تُوزَّع مهمة تدريب واحدة على عدة وحدات GPU.

   تستطيع ميزة GPU متعددة المثيلات (MIG) تقسيم وحدة GPU مادية واحدة إلى شرائح معزولة، لكل منها ذاكرتها وقدرتها الحوسبية، فتتشارك عدة أعباء عمل أصغر بطاقة واحدة.

   تُثبَّت وحدات SXM مباشرة على اللوحة الأساسية للخادم بدلًا من إدخالها كبطاقات، وهو التصميم المستخدم عادةً في الخوادم الكثيفة متعددة وحدات GPU.

   TDP هي القدرة الحرارية التصميمية المقدرة: الرقم المعتمد في التخطيط لإمداد الطاقة والتبريد في الخادم.

4. 04فيمَ تُستخدم

   الاستخدام الرئيسي (المسجل)

   AI training / inference / HPC

   هذه هي الاستخدامات التي سجلتها Kovara لهذه القطعة. وتشرح الملاحظات عبء العمل بعبارات عامة؛ وليست ادعاءات أداء.

   • AI trainingتعليم النموذج من البيانات. وعادةً ما تكون المرحلة الأكثر استهلاكًا للحوسبة والذاكرة، وغالبًا ما تُوزَّع على كثير من وحدات GPU.
   • inferenceتشغيل نموذج مدرَّب للرد على الطلبات. وسعة الذاكرة وزمن الاستجابة وتكلفة الطلب هي الاهتمامات المعتادة.
   • HPCالمحاكاة العلمية والهندسية، حيث تهم الدقة العددية وعرض النطاق الترددي للذاكرة.

الأرقام من البيانات المرجعية الرئيسية لدى Kovara، وآخر تحقق منها في 03 سبتمبر 2026. تصف الشروحات التقنية بوجه عام؛ وليست مقاييس مرجعية ولا تقول شيئًا عن السعر أو التوفر.