最も重要なこと
数値精度
高精度の形式を必要とするシミュレーションもあります。GPUの強みが、コードで使用する精度に合っているかを確認してください。
ソフトウェアの互換性
使用するライブラリとツールチェーンが、レンタル予定のベンダーと世代に対応しているかを確認してください。
インターコネクトの要件
密結合のコードにはノード間の高速なネットワークが必要ですが、完全並列のコードには必要ありません。
データレジデンシー
研究データには、処理できる場所に関するルールが適用される場合があります。
典型的な構成
コードによって異なります。まず小規模なケースでベンチマークを行い、実際に必要なノードとネットワークにスケールしてください。
一般的な購入方法
探索段階ではオンデマンドの短期割り当て、ワークロードを把握したらコミットのキャパシティ。
よくある間違い
- AI向けに最適化されたGPUが、あらゆる精度で優れていると思い込むこと。
- 大規模な割り当てにコミットする前に、小規模なベンチマークを省略すること。
- データレジデンシーの要件を見落とすこと。
これは一般的なガイダンスであり、特定のプロバイダーや価格を推奨するものではありません。現在のオファリングを確認し、在庫状況と条件はプロバイダーにご確認ください。