2023-04-19 23:39:51
来 源
中存储
人工智能
Jericho3-AI 使 AI 网络具有完美的负载平衡、无拥塞操作、超高基数和零影响故障转移等功能。

2023 年 4 月 18 日 — 博通公司宣布,它已经交付了 Jericho3-AI,为人工智能 (AI) 网络提供了高性能结构。Jericho3-AI 使 AI 网络具有完美的负载平衡、无拥塞操作、超高基数和零影响故障转移等功能,最终可显著缩短任何 AI 工作负载的作业完成时间。

Jericho3-AI在AI的使用量飙升的时候进入市场。根据国际数据公司(IDC)的一项新预测,到2023年,全球人工智能支出将达到1540亿美元,到2026年将达到3000亿美元或更多。2023 年的数字比 2022 年增加了 26.9%。1

博通交付 Jericho3-AI,为人工智能 (AI) 网络提供高性能结构

28.8 Tb/s StrataDNX Jericho3AI 机器学习以太网交换机系列。

基于Jericho3-AI的结构将帮助网络运营商处理AI需求不断扩大的工作负载。

“人工智能网络的基准是减少完成大规模人工智能模型的训练和推理所需的时间和精力,”博通核心交换集团高级副总裁兼总经理Ram Velaga说。“与市场上的任何其他替代方案相比,Jericho3-AI可显着缩短作业完成时间。

AI 工作负载具有独特的特征,例如少量的大型长生存流,所有这些流在 AI 计算周期完成后同时启动。Jericho3-AI 结构通过专为 AI 工作负载设计的独特功能,为这些工作负载提供最高性能:

完美的负载平衡平均将流量喷洒到交换矩阵的所有链路上,确保在最高网络负载下实现最大的网络利用率。 无拥塞运行和端到端流量调度可确保无流量冲突和抖动。 超高基数独特地允许Jericho3-AI结构在单个集群中将连接扩展到32,000个GPU,每个GPU具有800Gbps。 零影响故障转移功能可确保低于 10ns 的自动路径收敛,从而不会影响作业完成时间。

利用这一独特的功能,Jericho3-AI 结构为关键 AI 基准(如 All-to-All)提供比其他网络解决方案至少缩短 10% 的工作完成时间。这种性能改进对降低运行 AI 工作负载的成本具有倍增效应,因为它意味着昂贵的 AI 加速器的使用效率提高了 10%。实际上,网络是为自己买单的。

Jericho3-AI结构提供每秒26 PB的以太网带宽,几乎是上一代带宽的四倍,同时每千兆位的功耗降低了40%。

“云运营商将升级其AI基础设施,以应对新一代高容量GPU和大型语言模型的出现推动的带宽的大规模增长,”Wheeler's Network首席分析师Bob Wheeler表示.“Jericho3-AI为连接数万个GPU的网络提供了高带宽,低延迟和低功耗的选择,彻底改变了为这个令人兴奋的新时代构建和维护AI集群的经济性。

Jericho3-AI结构的一个独特之处在于它提供了最高的性能,同时还实现了最低的总拥有成本。这是通过长距离 SerDes、分布式缓冲和高级遥测等属性实现的,所有这些都使用行业标准以太网提供。这些因素为网络架构和部署选项提供了高度的灵活性,拥有最大的硬件和软件提供商生态系统。

可用性

要在此处了解有关Jericho3-AI的更多信息。Jericho3-AI现在可供合格的客户使用。有关所有博通产品的更多信息,请访问 www.broadcom.com.

行业行情:

Michael KT Lee,Accton 研发高级副总裁

“随着Jericho3-AI的可用性,Accton可以为下一代AI集群创建构建块,再次突破规模界限,显着提高AI结构的基数和吞吐量,并大大提高大型GPU集群的电源效率。

Anshul Sadana,Arista 首席运营官兼高级副总裁

“运行EOS的Arista 7800R3是首屈一指的AI骨干,支持AI工作负载和PB级网络流量的指数级增长。我们很高兴与Broadcom合作,并使用创新的基于以太网的集群方法推动AI革命,在减少AI训练和推理工作负载的运行时间方面展示突破性的性能。

Gavin Cato,Celestica硬件平台解决方案主管兼首席技术官

“Jericho3-AI结构架构引入了一种构建大规模网络的新方法。Celestica很高兴看到商用硅基架构的下一代构建模块,以及采用先进的AI训练和推理集群来支持开放技术。

Ido Susan,DriveNets首席执行官

“DriveNets已成功与Broadcom合作,部署了基于分布式分解机箱(DDC)架构的世界上最大的核心路由器。Jericho3-AI 结构提高了 AI 集群规模的标准。这种结构的独特属性、完美的负载平衡和零影响故障转移与 DriveNet 的 DDC 相结合,为 AI 训练和推理作业创造了行业领先的利用率。在Jericho J3平台上运行的DriveNets NOS为超大规模企业和服务提供商提供了独特的,无与伦比的技术解决方案,用于未来的大规模和AI网络。

何永胜,优思空间首席执行官

“Ufispace致力于创建支持服务提供商核心和边缘网络中分布式分解机箱架构成功所需的硬件。我们很高兴能够利用Jericho3-AI结构来扩展高性能AI集群的解决方案,从而能够以最短的作业完成时间训练大型AI模型。

声明: 此文观点不代表本站立场;转载须要保留原文链接;版权疑问请联系我们。