最重要的是什么
数值精度
有些仿真需要高精度格式。请确认 GPU 的优势与您的代码所用的精度相匹配。
软件兼容性
请确认您的库和工具链支持您计划租用的厂商和代际。
互连需求
紧耦合的代码需要节点间的高速网络。易并行的代码则不需要。
数据驻留
研究数据的处理地点可能受到相关规定的限制。
典型配置
取决于代码。先对小规模案例进行基准测试，再扩展到实际所需的节点和网络。
通常的采购方式
探索阶段使用按需的短期分配，待充分了解工作负载后再使用承诺容量。
常见错误
- 以为针对 AI 优化的 GPU 在每种精度上都表现出色。
- 在承诺大规模分配之前跳过小规模基准测试。
- 忽视数据驻留要求。
这只是一般性指导，并非对特定服务商或价格的推荐。请查看当前产品，并与服务商确认可用性和条款。