Gaudi 3 128GB

المواصفات مشروحة

يُستخدم في AI training وinference

1. 01128 GB من ذاكرة HBM2E

   VRAM

   128 GB

   نوع الذاكرة

   HBM2E

   عرض النطاق الترددي للذاكرة

   3.7 TB/s

   تُكدَّس ذاكرة HBM (الذاكرة عالية النطاق الترددي) في طبقات وتقع بجوار المعالج مباشرة على الحزمة نفسها. وهذا المسار القصير والعريض هو ما يمنح المسرعات المزودة بـ HBM عرض النطاق الترددي لذاكرتها، لذا تُختار عادةً للأعمال المحدودة بسرعة وصول البيانات إلى الأنوية، مثل الاستدلال على النماذج الكبيرة ومحاكاة HPC.

   VRAM هي مساحة العمل على البطاقة. ويجب أن تتسع لها أوزان النموذج والتنشيطات ومجموعات البيانات، أو أن تُقسَّم على عدة وحدات GPU. قاعدة تقريبية للأوزان وحدها بدقة 16-bit (نحو 2 GB لكل مليار معامل): ما يصل إلى 64 مليار معامل تقريبًا، قبل حساب التنشيطات والذاكرة المؤقتة. هذا حساب على VRAM المسجلة، وليس مقياسًا مرجعيًا.

2. 02بنية Gaudi3

   البنية

   Gaudi3

   الجيل

   Gaudi 3

   سنة الإطلاق

   2024

   حالة دورة الحياة

   Current

   Gaudi هو خط مسرعات الذكاء الاصطناعي من Intel، مصمم لتدريب التعلم العميق والاستدلال مع شبكات مدمجة في الرقاقة. (سياق عام عن البنية، وليس بيانًا عن هذه البطاقة تحديدًا.)

   أُطلق في 2024. تدرجها سجلات Kovara على أنها قطعة من الجيل الحالي.

3. 03فيمَ تُستخدم

   الاستخدام الرئيسي (المسجل)

   AI training / inference

   هذه هي الاستخدامات التي سجلتها Kovara لهذه القطعة. وتشرح الملاحظات عبء العمل بعبارات عامة؛ وليست ادعاءات أداء.

   • AI trainingتعليم النموذج من البيانات. وعادةً ما تكون المرحلة الأكثر استهلاكًا للحوسبة والذاكرة، وغالبًا ما تُوزَّع على كثير من وحدات GPU.
   • inferenceتشغيل نموذج مدرَّب للرد على الطلبات. وسعة الذاكرة وزمن الاستجابة وتكلفة الطلب هي الاهتمامات المعتادة.

الأرقام من البيانات المرجعية الرئيسية لدى Kovara، وآخر تحقق منها في 25 سبتمبر 2026. تصف الشروحات التقنية بوجه عام؛ وليست مقاييس مرجعية ولا تقول شيئًا عن السعر أو التوفر.