为了AI负载,英伟达推出新一代以太网络技术Spectrum-X

Nvidia 周二发布了最新一代以太网网络架构 Spectrum-X,该技术专为具有繁重 AI 工作负载的数据中心而设计。
2023-11-26 16:55:53  |   作者:开源爱好者  |   来源:

为了AI负载,英伟达推出新一代以太网络技术Spectrum-X

Nvidia 周二发布了最新一代以太网网络架构 Spectrum-X,该技术专为具有繁重 AI 工作负载的数据中心而设计。
2023-11-26 16:55:53
作者:开源爱好者
来源:

图片8.jpg

Nvidia 周二发布了最新一代以太网网络架构 Spectrum-X,该技术专为具有繁重 AI 工作负载的数据中心而设计。Nvidia的Spectrum-X技术将应用到戴尔、HPE和联想的服务器中。

Spectrum-X集成到Nvidia的Spectrum以太网中,是硬件和软件的结合,将Spectrum-4以太网交换机(每秒高达51太比特)和BlueField-3 DPU融合在一起,旨在协同工作,减少流量拥塞,并能消除数据包丢失。

Nvidia 表示,与传统以太网相比,这种新的技术能将人工智能应用的数据吞吐量提升1.6 倍,这在人工智能工作负载需要处理大量数据并可能迅速造成数据中心拥堵的情况下是非常必要的。

Nvidia 将其支持 AI 的网络接口称为 SuperNIC,这是一种专为 AI 云计算设计的专用网络加速器,可为超大规模 AI 工作负载提供高速以太网连接和效率提升。

戴尔、HPE和联想的服务器将采用这项新技术。新服务器还包括 Nvidia 最新的 H100 Tensor Core GPU 和 AI Enterprise,以及 AI Workbench 软件。

戴尔公司董事长兼CEO迈克尔-戴尔在一份新闻稿中表示:“通过合作,戴尔科技和 Nvidia 将为客户提供快速、安全地从数据中提取智能所需的基础架构和软件。”

Nvidia 以其 GPU 而闻名,但该公司也生产网络交换机,其中 Spectrum 系列以能应对数据中心的大数据工作负载而闻名。

HPE总裁兼首席执行官安东尼奥-内里(Antonio Neri)在一份新闻稿中说:“生成式人工智能无疑将推动多个行业的创新,这些强大的新应用需要一个全新的架构来支持各种动态工作负载。”

Spectrum-X目前用于Nvidia的Israel-1超级计算机,该超级计算机由戴尔服务器和Nvidia的HGX 100平台组成,配备GPU、BlueField-3 DPU、SuperNIC和Spectrum-4交换机。据 Nvidia 称,该模型可作为公司构建人工智能驱动的高性能计算集群的参考。

博通称 "并非新产品"

Nvidia 在台北举行的 Computex 展会上首次发布了 Spectrum-X,其CEO黄仁勋在台上表示,这是 “全球首款面向 AI 的高性能以太网,而且不会丢包。”

不过当时博通(Broadcom)提出了异议,告诉媒体,“他们的设备没有什么独特之处是我们没有的。”

博通公司核心交换集团高级副总裁 Ram Velaga 说,博通公司的技术已经能够以一种更不依赖供应商的方式有效管理拥塞,并将矛头对准了 Nvidia 的专有软件。

“以太网今天取得成功的全部原因在于它是一个非常开放的生态系统,”他如是说。

贯穿数据中心的人工智能

对新的 AI 就绪型网络基础设施(如 Nvidia 的 Spectrum-X)的需求,主要是由数据中心为建立处理这些工作负载的能力而激增的支出所驱动的。研究公司 IDC 在一份新闻稿中表示,2023 年第二季度,全球云基础设施产品支出增长了 7.9%,达到 246 亿美元。

IDC表示,预计到2027年,全球在人工智能解决方案上的支出将增长到5000亿美元以上,亚洲41%的零售银行业愿意投资人工智能,80%的首席信息官将利用组织变革来利用人工智能,这两项因素都推动了对人工智能就绪数据中心的需求。

展望盈利

尽管对华出口限制有可能减少英伟达的盈利,但该公司的股价已突破500美元,创下历史新高,这主要是因为其资金雄厚,AI革命的持续需求推动了数据中心的支出。

Piper Sandler 分析师Harsh Kumar在最近的一份报告中写道:“我们认为,美国云计算和其他数据中心客户的需求依然强劲且保持不变,因为这些公司仍在利用加速计算能力改造数据中心。”