Gaudi 2 96GB

仕様の解説

用途：AI trainingとinference

1. 0196 GBのHBM2Eメモリ

   VRAM

   96 GB

   メモリタイプ

   HBM2E

   メモリ帯域幅

   2.45 TB/s

   HBM（High Bandwidth Memory）は層状に積み重ねられ、同じパッケージ上でプロセッサーのすぐ隣に配置されています。この短く幅の広い経路こそが、HBMを搭載したアクセラレーターにメモリ帯域幅をもたらしています。そのため、大規模モデルの推論やHPCシミュレーションなど、データがコアに届く速度に制約される処理によく選ばれます。

   VRAMはカード上の作業領域です。モデルの重み、アクティベーション、データセットはここに収まる必要があり、収まらない場合は複数のGPUに分割しなければなりません。 16ビット精度での重みだけの目安（パラメーター十億個あたり約2 GB）：活性化とキャッシュを除いて、最大でおよそ48Bパラメーター。これは記録されたVRAMに基づく計算であり、ベンチマークではありません。

2. 02Gaudi2アーキテクチャ

   アーキテクチャ

   Gaudi2

   世代

   Gaudi 2

   発売年

   2022

   ライフサイクルのステータス

   Previous

   Gaudiは、ディープラーニングのトレーニングと推論向けに設計された、ネットワーク機能をチップに内蔵するIntelのAIアクセラレーター製品群です。 （アーキテクチャに関する一般的な説明であり、この特定のカードについての記述ではありません。）

   2022年発売 Kovaraのレコードでは、前世代の製品として掲載されています。

3. 03フォームファクターと電力

   フォームファクター

   Mezzanine accelerator

   TDP

   600 W

   アクセラレーターモジュールは、カードとしてスロットに差し込むのではなく、ベースボードに実装されます。高密度のマルチアクセラレーターサーバーで使われる構成です。

   TDPは定格の熱設計電力で、サーバーの電力供給と冷却を計画するための数値です。

4. 04用途

   主な用途（記録）

   AI training / inference

   これらは、Kovaraがこの製品について記録している用途です。注記はワークロードを一般的に説明したもので、性能を主張するものではありません。

   • AI trainingデータからモデルに学習させること。通常、最も計算資源とメモリを消費する段階で、多くのGPUに分散されることがよくあります。
   • inferenceトレーニング済みのモデルを実行してリクエストに応答すること。メモリ容量、レイテンシー、リクエストあたりのコストが主な関心事です。

数値はKovaraのマスターデータで、最終検証日は2026年9月25日です。解説は技術全般を説明するもので、ベンチマークではなく、価格や在庫状況については何も示していません。