IntelGaudi2加速器在MLPerf4.0GenAI基准测试中展示了与NVIDIAH100相比的性价比竞争力

英特尔Gaudi2加速器在MLPerf4.0GenAI基准测试中展示了与NVIDIAH100相比的性价比竞争力1

英特尔刚刚发布了最新的MLPerfv4.0性能数据，涵盖Gaudi2加速器和第五代Xeon“EmeraldRapids”CPU，其中前者展示了与NVIDIAH100GPU相比的强劲性价比。

一段时间以来，英特尔一直在使用其OneAPI框架微调其Gaudi加速器系列在人工智能工作负载中的性能。最新的MLPerfv4.0性能数据展示了这项正在进行的软件工作的成果，该数据展示了在Llama-70B和StableDiffusionXL等工作负载中的GenAI功能，其中英特尔的解决方案可提供与其竞争对手相比具有竞争力的性能。最近，该公司展示了Gaudi2加速器在最新GenAI工作负载(例如稳定扩散和Llama2LLM)中如何比NVIDIA解决方案更快。更多内容请参见这里。

相关报道英特尔概述40TOPSNPU性能作为WindowsCopilot和AIPC平台的最低要求

英特尔Gaudi2加速器在MLPerf4.0GenAI基准测试中展示了与NVIDIAH100相比的性价比竞争力2

为了进行比较，英特尔使用x8Gaudi2加速器配置与x8NVIDIAH100GPU进行FP8和INT8性能基准测试。就相对性能而言，NVIDIAH100毫无疑问远远领先于IntelGaudi2加速器，服务器性能提升高达3.35倍，离线生成性能提升高达2.76倍。但游戏完全对英特尔有利的是性能/价格，Gaudi2加速器成为一款极具竞争力的产品，英特尔将Gaudi2称为GenAI工作负载上NVIDIAH100的唯一“基准替代品”。

英特尔Gaudi2加速器在MLPerf4.0GenAI基准测试中展示了与NVIDIAH100相比的性价比竞争力3

因此，就性价比而言，英特尔Gaudi2AI加速器的价值比NVIDIAH100解决方案高出33%，其中NVIDIAH100仅在Llama-70B(服务器)中超过Gaudi2。英特尔最近还与高通和谷歌合作，通过oneAPI解决NVIDIACUDA在人工智能领域的主导地位，这可能会在未来带来进一步的改进。下一代Gaudi3和FalconShores人工智能加速器在推出时将拥有坚实的软件框架支持。

英特尔还分享了代号为EmeraldRapids的第五代Xeon可扩展系列的MLPerfv4.0结果。将这些与第四代“SapphireRapids”系列进行比较，您可以看到在3dUnet、BERT、RNN-T、ResNet50、RetinaNet、DLRMv2、GPT-J。此外，英特尔的OEM合作伙伴还提交了第五代XeonCPU在一系列混合工作负载下的结果。这些合作伙伴包括戴尔科技、广达电脑、Supermicro、Wiwynn和CISCO。