首页 > 科技 >

戴尔与AMD合作扩大其生成式人工智能产品组合为客户提供更多选择

发布时间:2024-03-27 16:37:16来源:

戴尔在其用于人工智能工作负载的高性能计算产品组合中添加了一款基于AMD的服务器。除了Nvidia驱动的版本外,客户很快就可以抢购配备八个AMDInstinctMI300X加速器的新版本DellPowerEdgeXE9680。这有助于企业训练和运行自己的内部大型语言模型(LLM)–提供1.5GB高带宽内存(HBM3)和超过21petaFLOPS的性能。

客户还可以扩展使用全局内存互连(xGMI)标准部署的系统,并通过基于以太网的AI结构与DellPowerSwitchZ9664F-ON连接AMD的GPU。戴尔今年早些时候推出了配备NvidiaH100GPU的设备。

与此同时,还有一项名为“戴尔与AMD进行生成式AI验证设计”的新标准。它虽然拗口,但本质上是一个框架,适合希望运行自己的硬件和网络架构来运行法学硕士的组织。

戴尔客户可以使用该解决方案构建具有各种框架的生成式人工智能平台,这些框架指导技术集成以及物理安装和性能优化。

它还使用AMDROCm支持的AI框架,这是一个开源包,包含与AMDInstinct加速器兼容的驱动程序、开发工具包和API。其中包括PyTorch、TensorFlow和OpenAITriton等流行框架,这些框架都在配备AMD加速器的PowerEdgeXE9680上提供本机支持。

作为超以太网联盟(UEC)的成员,戴尔持续推动基于标准的网络,这意味着它采用了比Nvidia更开放的方法。

免责声明:本答案或内容为用户上传,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 如遇侵权请及时联系本站删除。