标签： 解决方案

关注星融元

龙年伊始，AI领域又出重磅新闻：OpenAI发布文生视频大模型Sora，生成式AI迎来新里程碑。

从技术层面来看，Sora的进化速度近乎不可思议。2023年6月发布的Gen-2只支持4秒视频生成并且掉帧明显得像幻灯片，11月，Meta发布的视频生成大模型Emu Video可以生成512*512、每秒16帧的视频，3个月后发布的Sora已经能够做到生成任意分辨率和长宽比的视频，还能够执行一系列图像和视频编辑任务，根据文本提示创建详细的视频、通过静态图像生成视频。

Sora根据文字提示生成的视频截图

AGI行业的快速发展需要大量模型训练和推理，推动算力需求持续高涨。在实际应用中，并不是所有的计算资源都能被充分利用，在计算、数据处理等过程中，大量算力被“闲置”，此时可以考虑泛在算力，从计算、存储和网络服务三个方面提高算力利用率。

泛在算力需要稳定的网络来连接各种计算资源，开放网络的高带宽、低时延、传输稳定性和可靠性等特性为泛在算力提供更多应用场景和可能性。国内企业想乘AI技术东风，推动数字化和智能化的发展，却不知道应该选择什么厂商来提供网络服务？

星融元致力于为泛在算力构建开放网络，业务覆盖云网络、高性能计算/人工智能、企业数据中心、园区接入等领域，同时支持分布式存储、网络可视等功能，在保障规模、带宽、时延及稳定性等性能的同时极大降低成本。

以Sora为例，由于Sora基于“Patch”而非整个视频进行训练，类似于大型语言模型（LLM）中的文本标记，把所有类型的视觉数据转换为统一的表示从而进行大规模的生成式训练，这一过程需要高效处理大量数据，星融元星智AI网络解决方案轻松组建智算中心万卡网络：

• 在不影响数据传输性能的情况下，精简网络架构，极大降低用户网络建设成本；
• 将网络转发路径跳数降低至1跳，大大减少业务时延；
• 简化网络结构，降低运维以及故障排查难度。

在网络性能方面，Asterfusion星智AI网络解决方案有以下优势：

提升了单机网络带宽

1. 增加网卡数量，初期业务量少可以考虑CPU和GPU共用，后期给CPU准备单独的1到2张网卡，给GPU准备4或8张网卡；
2. 提升单机网卡带宽，同时需要匹配主机PCle带宽和网络交换机带宽，星融元200G、400G、800G以太网交换机将配合网卡确保数据传输高带宽；

应用RDMA网络（RoCE）

1. 借助RDMA技术减少GPU通信过程中的数据复制次数，优化通信路径，降低通信时延；
2. 通过Easy RoCE一件下发复杂的RoCE相关配置（PFC、ECN等），帮助用户降低运维复杂度；

减少网络拥塞

1. 减少网络侧时延，提高GPU使用效率：超低时延降至400ns；
2. 通过DCB协议组减少网络拥塞：通过PFC、PFC WatchDog、ECN构建全以太网零丢包低时延网络。
3. 双网分流：CPU的流量与GPU流量彻底分离开，减少不同网络流量的占用和干扰。

作为开放网络领域的先行者，星融元持续为客户提供性能优越、成本优势明显的产品和方案，助力企业实现更高效的运营与发展。依托先进技术和丰富经验，星融元将为泛在算力的发展开辟更广阔的空间，为行业带来更多的机遇和可能性。

关注星融元

人工智能是数字经济的核心驱动力，AI 大模型是人工智能的新引擎。近年来，随着 ChatGPT 等生成式人工智能（AIGC）的突飞猛进，业内领军企业竞相推出万亿、10 万亿参数量级别的大模型，还对底层 GPU 支撑规模提出了更高的要求，达到了万卡级别。然而，如何满足如此庞大规模的训练任务，对网络的规模、性能、可靠性和稳定性等方面提出了前所未有的挑战。

一、AI大模型型对智算中心网络的需求

• 应用计算量呈几何级数增长，算法模型向巨量化发展，当前 AI 超大模型的参数目前已经达到了千亿~万亿的级别。训练这样的模型，毫无疑问需要超高算力。AI 超大模型训练使用GPU训练，互联网络需求在100Gbps~400Gbps，使用RDMA协议来减少传输时延可提升网络吞吐。
• 在 AI 大模型训练场景下，机内与机外的集合通信操作将产生大量的通信数据量。流水线并行、数据并行及张量并行模式需要不同的通信操作，这对于网络的单端口带宽、节点间的可用链路数量及网络总带宽提出了高要求。
• 网络抖动会导致集合通信的效率变低，从而影响到 AI 大模型的训练效率。因此在AI 大模型训练任务周期中，维持网络的稳定高效是极其重要的目标，这对网络运维带来了新的挑战。
• 在数据通信传输过程中产生的网络时延由静态时延和动态时延两个部分构成，其中真正对网络性能影响比较大的是动态时延。动态时延包含了交换机内部排队时延和丢包重传时延，通常由网络拥塞和丢包引起。
• 由于 AI 大模型训练中集群规模大，这进一步增大了配置的复杂度。在庞大的架构和配置条件下，业务人员能够简化配置部署，有效保障整体业务效率。

AI 大模型对网络的需求主要体现在规模、带宽、时延以及稳定性等几个方面。从当前数据中心网络的实际能力来看，完全匹配AI 大模型的需求在技术上仍然有一定的差距。

二、传统承载网络在AI算力网络的不足

随着大模型训练对于算力需求的不断提升，智算GPU从千卡到万卡，面对万卡以上的建设需求，传统网络解决方案为三级CLOS架构，通常让一台服务器配8块GPU卡，对应的8张万卡连接到单个HB域中的8台Server Leaf上，实现同一卡号GPU在一个Server Leaf上通信。同时为了确保高速转发，每个层级要保证1:1无收敛，以128端口盒式设备为例，Server Leaf和Spine设备的端口分配为上下各64个端口，Super Spine设备的128个端口全部用于下行接入，基于这样的端口规划，整体网络规模有8个HB域，64个POD和64个Fabric，网卡接入规模为32768。

可以直观的看到，整体网络架构极为复杂，不但网络建设成本高，网络转发路径跳数多，并且后续的运维和故障排障极其困难。

全Full Mesh网络成本高

• 跨 Leaf 交换机，转发路径有 3 跳，跨POD流量跳数更多，极大的增加了业务时延
• 网络结构复杂，运维以及故障排查困难

以32768个GPU，128端口交换机组网为例：

1. CLOS层数：3层
2. 交换机需要：1280台=((64+64)*8)+256
3. 光发射器数量：196608

为了缩小技术上的差距，星融元推出星智AI网络解决方案，针对LLM大模型场景构建了一张大规模、低时延、大带宽、高稳定、自动化部署的AI承载网。

三、Asterfusion星智AI网络解决方案

1、方案介绍

与传统方案相比，星智AI网络消除了跨GPU服务器不同GPU卡号之间的连接，只保留了与GPU相连的Leaf层交换机，将原本用于上连Spine的端口全部用于下连GPU，进一步提高Leaf交换机连接效率，并且这种网络架构仍然可以通过转发实现不同HB域之间的通信。

不同智算节点服务器间相同编号的网口需要连接到同一台交换机。如智算服务器 1 的 1 号 RDMA 网口，智算服务器 2 的 1 号 RDMA 网口直到智算服务器 N 的 1 号 RDMA 网口都连到 1 号交换机。

在智算服务器内部，上层通信库基于机内网络拓扑进行网络匹配，让相同编号的 GPU 卡和相同编号的网口关联。这样相同GPU 编号的两台智算节点间仅一跳就可互通。

不同GPU编号的智算节点间，借助NCCL通信库中的Rail Local技术，可以充分利用主机内GPU间的NVSwitch的带宽，将多机间的跨卡号互通转换为跨机间的同GPU卡号的互通。

星智AI网络解决方案轻松组建智算中心万卡网络，满足用户智算中心网络建设需求的同时，也避免了传统网络在智算中心的不足。

• 不影响性能的情况下，网络架构精简极大的降低用户网络建设成本
• 网络只需1跳，减少业务时延
• 网络结构简化，降低运维以及故障排查难度

以32768个GPU，128端口交换机组网为例：

1. CLOS层数：1层（Rail Only）
2. 交换机需要：256台
3. 光发射器数量：65536
4. 网络成本最大可降低：75%

2、方案优势

性能提升①：提升单机网络带宽

（1）增加网卡的数量，初期业务量少，可以考虑CPU和GPU共用，后期给CPU准备单独的1到2张网卡，给GPU准备4或8张网卡；

（2）提升单机网卡带宽，同时需要匹配主机PCIe带宽和网络交换机的带宽；

性能提升②：应用RDMA网络（RoCE）

（1）借助RDMA技术，减少了GPU通信过程中的数据复制次数，优化通信路径，降低通信时延；

（2）通过Easy RoCE技术，一键下发过去比较复杂的RoCE相关配置（PFC、ECN等），有效帮助用户降低运维复杂度；

性能提升③：减少网络拥塞

（1）减少网络测时延提高GPU使用效率：超低时延~400ns；

（2）通过DCB协议组减少网络拥塞：PFC、PFC WatchDog、ECN构建全以太网零丢包低时延网络；

随着 ChatGPT、Copilot、文心一言等大模型应用的横空出世，AI 大模型下的智算中心网络也将带来全新的升级。星融元持续投入研发，星智AI网络解决方案在一次次客户实地检测中得到认可。我们将与AI厂商通力合作，逐步推动AI 大模型下的智算中心网络关键技术的成熟与落地，针对用户场景，我们不断追求更加美好的解决方案，期盼与众多合作伙伴共同打造大规模、高带宽、高性能、低时延以及智能化的 AI 大模型智算中心网络。

背景内容参考中国移动研究院《面向AI 大模型的智算中心网络演进白皮书（2023 年）》

关注星融元

“30台AI服务器1个亿？这就是在抢钱啊！”

近日，中国移动江苏有限公司发布《中国移动智算中心（南京）2023年智算算力项目算力设备采购项目》招标公告，招标项目内容显示，需采购30台人工智能通用计算设备（训练型），预估金额10890万元（人民币/含税），单价限价363万元/台。

从2021年底ChatGPT上线迅速引发广泛关注后，AI行业持续火爆至今，随着行业巨头纷纷下场，AI基础设备的军备竞赛如火如荼。AI训练模型需要大量数据和计算资源，这对网络基础设施提出较高带宽和低时延的要求，很多人立马会想到InfiniBand，但昂贵的方案价格、无法与其他网络设备互通互访的特性以及较长的供货周期让国内AI厂商犯难，基于Ethernet的RoCE方案成了数据传输的首选：提供媲美InfiniBand的高宽带低时延性能，加上较低的成本，网络使用RoCE方案已经成为AI厂商的必然发展趋势。

AI技术需要强大的计算资源来支撑，具有强并行计算能力的GPU能够大幅提升计算效率，缩短AI训练模型时间，配备合适的网卡能够充分发挥GPU的性能，但GPU芯片供应常年短缺，对AI厂商来说抢到GPU已属不易，更遑论挑选型号，采购GPU和网卡的流程往往同时进行，此时无法预判究竟应该配备200G还是400G的网卡。

网卡负责处理网络通信与数据传输，无法确定网卡参数时，可以通过200G/400G RoCE的混合组网来简化管理和部署，使数据中心拥有更好的可扩展性。在混合组网的落地过程中，时常有参数流量超越线路带宽、网络丢包的风险，产生训练速度降级，GPU资源闲置率过高等问题，军备竞赛当前，应该挑选哪家厂商承担基础设施建设的重任？

目前中国市场上的交换机有多种规格，1G/10G/25G/40G/100G都比较常见，市面上200G端口的交换机凤毛麟角，少数厂家能提供200G低密度宽口或是框式交换机，在网络扩展升级的灵活性、成本效益方面都存在劣势；400G端口的交换机也较少见，一般用于高性能数据中心或大型企业网络中，因此能够提供200G/400G RoCE混合组网的厂商十分有限。

星融元作为国内新一代开放云架构解决方案的提供商，7年来始终大力投入研发，拥有众多技术创新，是业界唯一能够提供200G/400G RoCE混合组网、无缝衔接、且网络无损的开放网络厂商。

星融元采用基于RoCE的分布式概念替换了传统机框，相比较框式交换机，星融元盒式交换机拥有高性价比、低故障率、低时延等优点，星融元200G交换机在2U盒式形态下提供64高密度端口，能够提供更大的接入能力，与400G交换机混合组网部署网络，充分满足客户需求。另外星融元“零丢包”数据传输特性保障了网络的稳定性和可靠性，让AI厂商模型运行不中断，为高性能计算集群提供了真正意义上的低时延、零丢包、高性能的网络。

客户现场软硬件环境&性能测试指标

GPU Server-Leaf-Spine-Leaf-GPU Server

GPU Server-Leaf-GPU Server

在多次客户实地RoCE能力测试中，星融元使用Asterfusion CX-N超低时延云交换机搭建AIGC网络，完成RoCEv2吞吐性能测试、网卡Bond性能测试和NCCL all_reduce_perf测试，AIGC计算节点完成RDMA配置和性能优化，获得客户的认可。

AI对市场竞争格局的影响愈发明显，200G/400G交换机的需求越来越多，提出高带宽、低时延、大规模部署的技术要求，同时也带来了诸多市场机会，“重金求设备”便可一窥趋势。

准备好迎接AI基础设施这一波“泼天的富贵”了吗？星融元准备好了。

关注星融元

在全世界范围内的云服务市场上，开放网络一直是一个备受关注的话题。相比于传统供应商的网络设备，开放网络具备软硬件解耦、云原生、可选组件丰富等优势，对云服务商和超大型企业有足够的吸引力。

SONiC作为开源的网络操作系统，使得新一代网络中的高级可编程性成为现实。在Gartner 2023年发布的企业网络技术成熟度曲线中，由微软发起并开源的SONiC已经取代了往年“开放网络”的概念，并被Gartner称为“网络领域的Linux”，SONiC无疑成为了开放网络操作系统的最佳选择。包括微软、阿里巴巴在内的诸多云服务商选择在自己的生产环境中运行SONiC，以获得更高的性价比和灵活性，同时摆脱对传统网络设备厂商的依赖。

相较于头部云服务商基于SONiC架构自研操作系统的做法，另一种更具性价比的方案备受青睐：采购支持SONiC的白盒交换机，并运行开源版本的SONiC软件，T就选择了这种方案。

T是一家全球化的通信服务提供商，为客户提供基于云的服务，帮助企业通过API建立和扩大他们的通信能力。T的网络基础设施遍及全球，基于自身的私有全球云网络，他们可以为客户提供比传统电信公司更优质、更可靠的服务。

在长期实践中，T享受了开放网络的便利，也遇到了种种挑战：

• 首先，SONiC的开源版本迭代周期长，并且没有明确的路标可供参考。当急需某个开源版本不具备的特性时，通常需要被动等待很久，而自行开发又需要大量的研发投入，如何平衡等待时间与研发投入之间的关系成了一个问题。
• 其次，开源版本存在不少已知或未知的bug，运维人员（通常是网络工程师）并不具备直接解决这些bug的能力，在生产环境上规避bug给运维人员增加了大量不必要的工作量。

星融元私有云承载网络解决方案

助力T客户构建自身网络

星融元的SONiC企业发行版AsterNOS凭借脱胎于SONiC的开放性及标准化能力，联合行业领先的OpenStack软件供应商Canonical形成了完整的私有云解决方案，采用全盒式CLOS架构、高性能网络Overlay、统一云管、INT遥测-全面掌握网络安全，解决了传统数据中心网络转发性能瓶颈、功能扩展受限、部署运维低效等问题。T通过采购星融元CX-N系列交换机，使用星融元私有云承载网络解决方案，攻克了种种技术难题。

全盒式CLOS架构提升接入层与汇聚层的高可靠性

星融元私有云网络解决方案采用星融元CX-N系列全盒式设备构建CLOS架构网络，单Pod最大可支持10W+虚机条目；同时还可以进行多Pod扩展，以实现更大规模的网络接入能力；结合BGP等价路由负载、MC-LAG、Monitor-Link联动等技术实现接入层和汇聚层的高可靠保护机制。

AsterNOS在开源版本的基础上对数据中心常用功能如BGP EVPN和VXLAN做了增强，并领先于开源版本提供了EVPN Multihoming能力，使T客户在接入层可靠性上多了一种更高效的选择。

CX-N全开放NOS提升用户网络管控效率

CX-N系列交换机搭载的AsterNOS是星融元为云计算业务场景设计开发的一款全开放、高性能、高可靠、功能易扩展的云网操作系统。采用了标准的Linux内核、开放的容器化架构，并向最终用户提供系统集成环境与开发套件，支持用户将运营经验工具化的插件、新业务功能模块集成部署在AsterNOS之上，提升最终用户网络管控的效率以及满足新业务场景对网络功能的需求。

T使用的Prometheus + Grafana的运维组合，在过往的运维经历中和设备的相性并不很好，而AsterNOS可以将Prometheus运行在容器化环境中，从而能够更高效地获取设备的KPI指标，从而提升运维效率。

星融元持续致力于开放网络领域，为客户提供标准化、开放的产品和解决方案的同时，通过丰富的研发和运维经验将客户需求落实到具体的解决方案，帮助客户更好地拥抱开放网络。

CX-N系列产品在T客户这一全球化的通信服务提供商私有云领域的成功商用，一方面为我们树立了业界标杆，也提供了持续推动开源网络发展的信心；另一方面也为云服务商的网络架构优化提供了参考：星融元致力于为客户降低TCO，提供统一纳管、高效运维的产品，可为云数据中心多业务融合、高性能计算、大数据分析等多种业务场景提供卓越的网络服务。

关注星融元

在这个数字经济时代，云计算技术为企业提供了更加高效的业务管理机会，百行百业加速上云。对比几种云网方案，目前公有云方案存在可控性低、数据暴露风险、个性化需求难以满足、服务受限等问题；私有云方案存在建设成本高、建设周期长、弹性差、复杂度高、扩展受限等问题。互联科技作为科创型数字新基建龙头企业世纪互联（VNET.US）集团全资子品牌，推出的全域托管云方案则恰好弥补了公有云方案和私有云方案的缺点，更加灵活、弹性、可靠、安全。

互联科技全域托管云降低中小企业业务上云成本

世纪互联数据中心有限公司是全球具有重要影响力的网络空间基础设施服务提供商之一，也是中国领先的第三方中立数据中心运营商之一。作为世纪互联的全资子品牌，也是世纪互联创新推出“大定制+新零售”双引擎战略中“新零售”业务主体，互联科技致力于成为客户数字化转型全生命周期的合伙人，通过整合数据中心机柜服务、云原生服务、网络服务、运维管理服务，互联科技逐步搭建起成熟完善的全域托管云服务，并面向未来构建超互联新算力基础设施，助力数字经济快速发展。依托世纪互联近30年深耕数据中心的经验，互联科技拥有包括全国30+城市的50+数据中心“主战场”和强大网络连接能力。

托管云（Managed Cloud Services）是指一种云计算服务模式，旨在帮助IDC托管客户构建并管理其云计算基础设施，以便客户可以在获得专属云服务的同时更专注于自己的业务。“全域托管云”解决方案为客户提供企业级一站式全域IT服务，通过新模式新平台助力上云新途径。

星融元CX-N交换机助力互联科技全面加速托管云业务

为保障弹性托管云方案的数据传输和存储，支持网络的高效流转，经过多家厂商的激烈对比，互联科技选择了全开放、性能优、资源利用率高的星融元CX-N系列云网交换机，为互联科技提供托管云的承载网络。

快速集成

利用星融元交换机的开放架构，互联科技的云管系统可以通过调用星融元交换机RESTful API快速将交换机的管理和配置工作集成到云管系统当中。星融元交换机除了提供原子级RESTful API的调用，针对云网下发配置，还提供事务级RESTful API的调用，只需要简单调用运管系统，互联科技就可完成一系列的云网配置下发，大大减轻运维难度。

随时升级

以往互联科技使用传统交换机，底层网络配置变更、更换设备等操作往往只能在业务闲时进行割接操作，星融元交换机因为容器化技术及高可用架构，可以随时进行系统应用的升级。如果涉及到更换设备，也可以通过复制配置文件，快速完成设备更换。这样避免对交换机进行二次配置，减少人为配置出错的可能，同时也大大提升了效率。

降本增效

充分利用星融元的云网设备的特性，世纪互联可以将主机Overlay网络卸载到星融元的交换机上，这大大了减轻客户主机CPU资源占用率，客户在创造更多虚机、提升资源利用率的同时，还能够大幅降低成本。

易于扩展

同样缘于星融元开放的特性和容器化的架构，互联科技可以在星融元的交换机上部署第三方容器应用，目前通过部署Prometheus官方提供的开源Node-exporter，可以实现通过Prometheus查看和监控星融元交换机的系统状态信息。客户还可以根据自己的需要，安装其他的容器应用，来满足自己个性化的需求。

本次合作将星融元在开放网络领域的技术能力融入到互联科技全域托管云解决方案中，打造业界领先托管云数字化解决方案，赋能百行百业的数字化转型。目前通过使用星融元交换机构建的云网络，互联科技目前已经在多个数据中心部署全域托管云业务。

未来，双方将在全域托管云场景化方案建设和市场推广领域展开深入合作，为不同规模和发展阶段的企业提供更利于长远发展的互联网基础设施全生命周期服务，互联科技全域托管云业务也将会迎来飞速发展。

相关文章：星融元携手世纪互联打造全域托管云，赋能企业数字化转型！