标签： 公司动态

关注星融元

偶然读到一篇很有意思的文章。

原文：https://www.economist.com/business/2024/05/19/can-nvidia-be-dethroned-meet-the-startups-vying-for-its-crown

透过文章，可以看到人们都在通过什么样的方法试图与英伟达争夺人工智能未来的天下。

• 有人在做整片Wafer级的超超超超超超超超级GPU，可以提供90万个核心和120万GB的内存（你没看错，小编也没有手抖，的确是8个“超”字、90万和120万GB；英伟达的GB200封装了1颗Grace CPU和2颗Blackwell GPU，就叫做Superchip了，那这个Wafer级的芯片前面用8个“超”字也不为过吧）
• 有人在GPU的设计中对标了具体的应用场景（例如自然语言处理），继而采用了特殊的架构（例如时序指令集计算机架构），因此让这种GPU能够不再被内存墙困住
• 也有人正在将GPU中与图形处理相关的一些逻辑剔除掉，只保留并增强与大语言模型相关的功能，从而让这种通用GPU（GPGPU）功耗更低、性能更强，更适合今天的GenAI应用

……

无论通往罗马的道路有多少条，无论穿越这些道路上有多么艰辛，但，这些旅程早晚都会终结在另外一堵墙之前：英伟达构筑的CUDA！

多么让人沮丧的结局啊！那为何还要开始这段旅程呢？为了回答这个问题，先来看看下面这张图片：

数字最枯燥，但是也最说明问题：2025财年第一财季，英伟达的收入为260.44亿美元，其中，净利润为148.81亿美元，净利率为57.14%（这个净利率数字基本可以让99.99%的做硬件的公司哭死过去好几回）！

看看穿着黑色机车夹克的黄教主在最近几次演讲中痛陈他和历史上的英伟达所经历过的压力、危机、屈辱、挣扎、另辟蹊径、奋起反抗和其他所有的罄竹难书的过往，就会发现——今天，我们如果用“天下苦NVIDIA久矣”这样的话语来引导和宣泄情绪，是多么的不公平、反智商和“盲目仇富”啊！英伟达的3万亿市值、高得难以置信的净利率、干一月等于别人干三年的收入，都是用那些不堪的过往换来的，岂是短短一句情绪宣泄可以对冲掉的！？

说到这里，对于这篇文章所描述的这些人和事，就可以给出结论了：

世上只有一种英雄主义，就是在认清AI和GPU的真(xian)相(zhuang)之后，依然热爱并坚持探索“如何用新的方法搓出新的GPU”，从而为人(gong)类(si)的(de)科(fa)技(zhan)进(zhuan)步(qu)贡(geng)献(duo)力(li)量(run)！

那么，我们最终能够穿越高墙抵达罗马吗？答案是毋庸置疑的：能！破高墙者，唯有开放生态。

历史的发展已经不厌其烦地证明了一件事情：只有开放才能有生命力，才能可持续发展。看看网络设备领域和C记、计算芯片领域和I记、存储领域和E记、公有云领域和A记，哪一个不是如此！？

面对今天雨后春笋般长出来的GPU公司，提问题的正确方式应该是：几年之后，它们会开始让人们追忆N记在GPU领域的辉煌？而不是它们能不能、会不会让人们追忆N记！

说到这里，小编的脑海中突然又浮现出一行字：交换芯片领域和B记……[偷笑]

AI不等于GPU芯片，AI是一个生态，一个从最底层基础设施到最上层各种应用的生态；正如GPU芯片需要多家参与的开放格局，AI生态也需要多家参与的开放共建。

作为国内为数不多深耕于开放网络软硬件产品的科技公司——星融元就是这个开放AI生态的坚定推进者与参与者之一。

2024年7月4日-7日，第七届世界人工智能大会（WAIC）即将在上海世博展览馆盛大举行，欢迎广大合作伙伴、媒体朋友、开发者、开放网络技术爱好者前来 H2-E516 展位体验、交流，共同探讨围绕中立开放的AI网络的生态合作，以及其他更多、更场景化的AI以太网部署思路。

关注星融元

近日，星融元与超云数字集团有限公司（以下简称“超云”）AI PaaS 平台完成了联合测试，顺利完成产品兼容性互认证。

此次双方共同针对产品的功能、性能、兼容性方面进行了严格的测试，测试结果显示：星融元全系列RoCEv2协议低时延交换机（25G/100G/200G/400G/800G）与超云AI PaaS平台完全兼容，稳定运行，可为各类信息化应用提供保障。

超云数字技术集团有限公司是由中国电子(CEC)、云基地(CLOUD VALLEY) 联合注资成立的国家高新技术企业、工信部专精特新 “小巨人”企业，是一家专注于数据中心产品及服务的本土制造商。公司产品覆盖智能计算、信创整机、私有云及云服务等领域，服务于互联网、金融、电信、制造、教育、能源及公共服务等多个行业。超云AI PaaS 平台可随时创建AI训练环境和训练任务，推动业务流程服务自动化，借助GPU虚拟化等技术灵活配置资源以满足不同场景需求，实现资源共享和统一管理，提高资源利用率。

星融元数据技术有限公司（Asterfusion）是行业领先的开放网络解决方案提供商，多年来专注于为各行业客户提供基于通用、解耦、高性能的硬件和SONiC软件框架的全场景一站式网络解决方案。面向AI时代下的新需求和新挑战，星融元持续为用户构建中立透明，易于运维、高性价比的基础网络。

• 中立开放：规避“全栈方案锁定” 风险；网络对业务彻底开放，可无缝融入AI/ML业务平台，支持现有系统（如K8s，Prometheus等）的重用
• 一站式AI/ML网络：系列化的开放网络方案适用于计算、存储、管理、云业务等多种场景，提供高度一致的部署与运维体验
• 灵活组网，弹性扩展：提供前后向兼容的200G/400G/800G网络，灵活支持单一SKU或混合速率规格组网方案，规模可从边缘推理扩展到万卡集群
• 400ns超低转发时延：端到端时延与IB网络相当，结合高可靠设计，大幅提升AI业务效率
• 全线标配RoCEv2/Easy RoCE：全端口支持RoCEv2，无额外license收费；此外更开发了简化无损以太网配置与管理的Easy RoCE功能，帮助用户快速部署和高效监控AI/ML网络
• 全面兼容超以太网联盟（UEC）规范：智能负载均衡技术现已支持UEC当前规范，未来将平滑演进，与新一代AI以太网规范保持同步

星融元 星智AI – 一站式AL/ML网络

未来，星融元将与超云开展更深层次的合作，为用户带来更高性能的AI智算服务和应用体验，共同助力AI驱动的新质生产力在各行业落地发展。

关注星融元

近日，星融元正式加入超以太网联盟(Ultra Ethernet Consortium,UEC)，该联盟是在 Linux 基金会的牵头下由多家全球头部科技企业联合成立，目标是突破传统以太网性能瓶颈，使其适用于人工智能（AI）和高性能计算（HPC）网络。

星融元加入UEC，将参与到制定以太网的下一代通信堆栈架构的进程中，推动以太网在人工智能和高性能计算领域的应用，为用户提供更高效、更强大的网络解决方案。

随着AI大模型规模的扩大以及通信模式和计算方法的多样化，传统基于 RoCE（RDMA over Converged Ethernet）的 RDMA方案存在拥塞控制算法阻碍等问题，造成运维困难；AI和HPC 对分布式计算资源的规模和有效利用需求高度相似，都对时延要求高。

UEC致力于改造以太网上的RDMA（Remote Direct Memory Access，远程直接内存访问）操作来优化AI和HPC工作负载,从物理层、链路层、传输层、软件层不断提升以太网的转发性能。超以太网传输工作组 (UEC Transport ，UET）通过多种创新来实现更高的网络利用率和更低的尾部延迟，从而减少AI和HPC作业完成时间。

针对上述问题，星融元正和UEC成员们基于端点的可靠性和拥塞控制的成熟路径，提供AI和HPC应用所需的性能，同时保留以太网/IP生态系统的优势，构建成本可控、运维简化、更易扩展的未来网络。

以下是超以太网传输工作组 (UET) 实现UEC1.0白皮书中规定的关键目标：

1.多路径和报文散传：

• 传统以太网网络基于生成树，确保从源到目的地的一条路径，以避免网络中的环路。
• UET 引入了多路径和报文散传技术，充分利用高带宽通信网络，无需负载平衡算法。这使得数据包可以同时使用到达目的地的所有路径，从而更平衡地利用网络资源。

2.灵活传递顺序：

• 传统的数据包排序方式限制了数据包的效率，UET 支持灵活的传递顺序，有效地完成数据包传输。
• 在 AI 工作负载中，这对于高吞吐量的集合操作（如 All-Reduce 和 All-to-All）至关重要。

3.现代拥塞控制机制：

• UET 引入了现代拥塞控制算法，以更好地管理网络拥塞。
• 这些算法考虑了从发送方到接收方的多个链路上的拥塞情况，以实现更高效的数据传输。

4.端到端遥测：

• UET 利用端到端遥测方案，从网络源头获取拥塞信息，以实现更快的拥塞控制响应。

总之，UET通过保留IP协议、支持多路径、改进数据包排序和拥塞控制，满足不断增长的工作负载需求，为未来的AI和HPC网络提供更简单、更高效的RDMA互连。

星融元的AI/HPC网络中的创新实践

面对AI/HPC对网络环境的高要求，星融元通过提供以太网络无损方案，支撑大规模算力集群建设：

1. 发布星智AI网络解决方案（Rail-only fabric），在不损失训练性能的前提下，削减服务器间链路，单pod里用更少交换机连接了更多GPU服务器，便于扩展规模，整体降低TCO。
2. 简化运维，推出“一键RoCE”方案，一键便可启用PFC和ECN，完成无损网络配置，还能快速定位无损网络的瓶颈与故障。
3. 基于超低时延交换机，面向分布式存储和HPC应用上的时延优化，现场测试中，端到端时延媲美IB。

作为领先的开放网络解决方案提供商，未来星融元将与UEC共同致力于为下一代AI和HPC网络提供优化的传输解决方案，帮助各行业用户构建AI时代中立、透明、高性价比的基础网络。

关注星融元

据美国媒体Information报道，OpenAI和微软计划用千亿美金打造一款名为“Stargate”的超级计算机。

在选择网络方案时，即便微软是Infiniband的用户，OpenAI还是更加倾向使用以太网电缆而不是Infiniband电缆（简称IB），是什么让AI行业巨头弃用成熟的IB，选择以太网呢？

?性价比

虽然Stargate的投资额巨大，但谁让以太网技术远比IB更具性价

比呢？苍蝇腿儿再小也是肉，更何况IB交换机是真贵，光价格一项就足以劝退很多厂商。

对于一些预算有限的企业或者初创公司来说，构建大规模的IB网络导致的成本过于高昂，承担不起。

?可扩展性

IB技术的优越性自不必多提，但它的规模不易扩展。IB使用基于树状或者多层拓扑结构的架构，导致网络可扩展性受到限制，这是不能忽视的巨大缺陷。

在构建大规模的AI集群时，如果节点数量超过了IB网络的扩展能力，可能需要考虑其他网络技术或者拓扑结构进行补充，IB技术是一种专有的高性能网络技术，自成一套的通信协议与通用的以太网协议不兼容，这增加了部署和管理网络的复杂性。

AI应用构建网络正如发展中的城市构建交通网络一般，一开始车流量（网络流量）并不大，但随着城市发展（AI技术日新月异，产品迭代迅速），原有的（网络）基础设施必将承载更多压力，急需扩建。如果可扩展性差，不仅会增加扩建成本，也对日后的流量管理、其他服务集成造成麻烦，网络不足容易造成交通堵塞，在网络流量上的表现就是增加时间损耗，IB的低延迟性能将会受影响。

?市场趋势

根据2024年年初Dell’Oro 的预测，部署交换机的支出人工智能后端网络的应用预计将使数据中心交换机市场扩大 50%，虽然IB预计将保持领先地位，但以太网预计将取得实质性进展，例如到2027年收入份额将增加20个百分点，3年内收入份额翻番，留给以太网的未来发展空间可观。

虽然大部分市场需求将来自一级云服务运营商，但预计2/3级和大型企业的需求量将很大，以头部公司为例，除了微软以外，亚马逊、Meta、腾讯这些头部公司机器学习场景用的都是以太网而非IB，当Stargate这么大规模的AI集群搭建也选择以太网技术，已然表明了大厂们对以太网的青睐。

在AI厂商最关心的网络性能领域，人工智能网络将加速向更高速度过渡，比如预计到2025年，人工智能后端网络大部分端口将达到800G。不同供应商将在AI应用这一巨大市场面前不断推出新的解决方案，让以太网技术更好地满足AI发展的需要，比如星融元就能提供性能媲美IB交换机的CX-N超低时延交换机，可以满足AI场景下低时延高带宽无损网络的需求。

不可否认，目前IB依旧是AI厂商构建网络的主要选择，但是对比IB，以太网低成本、易扩展、不易被厂商绑定的优势愈发明显。对于考虑部署网络的AI厂商来说，选择跟随大厂一起选择以太网，根据市场需求不断实现技术的更新迭代，会比选择大笔资金入手IB更划算。万一业务增加，选择IB意味着市场扩张后又得继续增加大笔资金、等待漫长的供货周期再对网络进行扩容，会增加部署和管理网络的复杂性。

参考资料：

https://www.delloro.com/news/ai-workloads-require-new-network-buildouts-expanding-data-center-switch-market-by-50-percent/

https://mp.weixin.qq.com/s/GM4H9SgBkhnq0Z7HXzh6tA

关注星融元

据 IT 外媒《The Information》近日报道，微软和 OpenAI 正在共建一个大型数据中心“星际之门”（Stargate），以容纳一台面向 AI 的超级计算机，该项目可能耗资超过 1150 亿美元（8304 亿元人民币）。尽管微软在当前的项目中使用了IB线缆，在网络基础设施方面，OpenAI倾向于使用开放以太网协议取代Nvidia InfiniBand（简称IB)，旨在摆脱对英伟达的依赖。

自AI大火以来，市场对英伟达GPU需求量居高不下，英伟达因此拥有了市场定价权，像微软和OpenAI这样的公司不愿被厂商绑定、希望另辟蹊径的公司不在少数，国内诸如字节跳动等互联网大厂也纷纷自研交换机，今天做一台高端的交换机比以往任何时候都要容易。

与过去少数几个通信厂家靠着大机箱、大背板、大电源建立起高门槛的市场形势不同，现在可以用CLOS架构去背板，使用通用的硬件设计；在“软件定义一切”的时代，开放标准SAI和开源SONiC为用户提供更灵活、可定制和高性能的网络解决方案；加上国内外领先的芯片公司和软件公司给更多中小厂家提供了一个做自己交换机的开放底座，似乎只要拥有编程能力，多尝试便能自研交换机，自己构建网络。但事实果真如此吗？

对于许多AI企业来说，自研交换机付出的时间成本远高于直接购买交换机，且碍于IB交换机供货周期长、IB网络故障高度依赖原厂等问题，找到性能媲美IB的以太网交换机是降低网络部署成本的关键点，应该如何找到合适的厂商呢？

数据中心交换机多场景应用

星融元是国内唯一提供软硬一体的一站式企业级开放网络解决方案的供应商，经过多年的技术探索和经验积累，星融元收获许多企业的认可，在海内外已多次实现数据中心交换机的规模化部署。

轻松组建智算中心万卡网络

星智AI网络解决方案轻松组建智算中心万卡网络，满足用户智算中心网络建设需求的同时，也避免了传统网络在智算中心的不足。

• 不影响性能的情况下，网络架构精简极大的降低用户网络建设成本
• 网络只需1跳，减少业务时延
• 网络结构简化，降低运维以及故障排查难度

以32768个GPU，128端口交换机组网为例：

CLOS层数：1层（Rail Only）

交换机需要：256台

光发射器数量：65536

网络成本最大可降低：75%

低时延、零丢包、高性能的无损网络

AI方案以外，星融元还提供分布式存储网络解决方案和全以太HPC网络解决方案，可以为高性能计算集群提供真正意义上的低时延、零丢包、高性能的无损网络。在HPC 和分布式存储的方案现场测试中，星融元和IB交换机的数据相近，端到端可媲美甚至优于IB交换机。

方案详情请点击查看：

星融元发布基于RoCE的分布式存储网络解决方案
星融元发布基于超低时延交换机的全以太HPC网络解决方案

Dell’Oro预测AI需求将促使数据中心交换机市场扩大50%，交换机市场鱼龙复杂，选择部署数据中心交换机的厂商时，备受市场青睐和研究报告认可的星融元是国内AI企业的最好选择，毕竟谁会拒绝一台性能优越、成本低廉、供货周期短、售后服务周到的数据中心交换机呢？

关注星融元

“网络服务遇到问题,请检查网络状况。” 你家小爱同学昨晚罢工了吗？

28日晚，雷军在小米SU7发布会上，多次喊出“小爱同学”，结果导致全国观众的小米音箱同时应答，最终把小爱同学喊崩了。

小爱语音作为小米旗下人工智能助手，受到国内众多消费者的青睐，但偶尔也会出现网络故障，变得“不那么智能”，人工智能有哪些关键的网络需求，可以保障消费者的使用体验呢？

• 人工智能任务通常需要处理大量数据，对于带宽和延迟的要求较高。以小米SU7为例，智能汽车需要与后台的数据中心进行实时的数据传输，以获取最新的地图数据、交通情况、车辆状态等信息。
• 人工智能应用对网络的可靠性和稳定性要求较高。网络中断或不稳定会导致数据传输中断、模型训练中断或结果不准确等问题。雷军把小爱同学喊崩便暴露了在海量用户同时访问服务器这一极限情况下，网络或存储不够用的问题。
• 当人工智能应用市场不断扩大，计算和存储需求也会持续增加，网络需要具备弹性和扩展性，以支持根据需求进行动态的资源分配和调整。

高带宽低时延、稳定可靠、可扩展……人工智能对网络建设提出高要求，面对诸多网络服务厂商，人工智能企业该如何选择？

作为国内新一代开放云架构解决方案的提供商，星融元可为客户提供性能稳定的1G-800G速率，端口类型丰富的高性能SONiC交换机，产品线覆盖数据中心、AI智算中心及企业网络接入等多种场景。与拥有高性价比的小米产品相似，星融元依靠智能化运维技术，可为客户切实降低网络基础设施总成本。

• 在人工智能领域，星融元CX-N系列交换机可提供媲美IB的性能，可以实现400ns的超低时延，全速率（10G-400G）下转发时延相同，相较IB拥有超高性价比，适用于于机器学习、高性能计算和分布式存储等场景。
• CX-N系列交换机支持PFC和ECN等多种数据中心高级功能，减少网络拥塞，如果某一流量大规模突发导致网络拥塞，高优先级的流量优先得到传输，同时可以减少丢包，有助于提高网络的稳定性和可靠性。
• Asteria SDN云网控制器可以实现云管平台的无缝对接，采用全开放架构设计，兼容性强。当市场扩大、网络设备不断增加时，在原有网络基础设施建设的基础上扩建，无需担心浪费，真正做到“无痛扩容”。
• 性能上，星融元能为高性能计算集群提供真正意义上的低时延、零丢包、高性能的网络；成本上，星融元能在不影响性能的情况下，精简网络架构，降低用户成本。以32768 个GPU ，128端口交换机组网为例，采用星融元星智AI网络方案可降低用户75%的网络建设成本。

在AI发展势头正盛的当下，建一张好用且实惠的网络对人工智能厂商是至关重要的，与星融元合作网络建设能够提升性能、优化成本，进一步提升人工智能产品的竞争力，进一步拓展市场份额。

目前，星融元在全国拥有5个研发中心和2个办事处，全国业务网络建设已成型，想要做产品测试？欢迎拨打400-0989-811来联系我们~

关注星融元

阳春三月好时节，高校学子进入毕业季，星融元开启2024届校园招聘，线下双选会走入北大、西电、华科等校园，更多职场新人将加入AF（Asterfusion）世界，成为一颗颗闪亮的“新星”。

本周六，星融元将步入北京大学开展宣讲会暨双选会，介绍星融元作为领先的开放网络解决方案提供商，“为泛在算力构建开放网络”的理念。

此外，2024届星融元校园招聘开设西安、武汉2个站点，将于近期进入西安电子科技大学、武汉理工大学开展线下宣讲会暨双选会，并于西安交通大学、西北大学、华中科技大学、武汉大学等重点院校开展双选会。

星融元为行业企业、数据中心和云运营商提供基于通用解耦硬件和SONiC软件框架的全场景交钥匙网络解决方案，帮助用户构建AI时代中立、透明，易于运维、高性价比的基础网络。本次校园招聘主要岗位为软件开发工程师（含测试）、助理产品经理、技术服务工程师、销售工程师等，为苏州、西安、武汉、北京等研发中心添加新动力。

我们在春天播种希望，相信新人们将在星融元释放潜能、不断成长，成为一股新兴力量，为公司注入无限活力和创新思维、带来新的突破和成就。未来从不设限，让AF世界的每一颗星星都闪耀，共同创造出更强大的明天！

扫描二维码，投递简历吧！