SIGCOMM是计较机收集范畴的全球第一流别学术会议。英伟达正在中国市场的姿势看上去比以往任何时候都积极。这一拓扑架构此前已由大学、中关村尝试室、驭驯收集、字节跳动等团队正在ACM SIGCOMM 2025论文中系统提出。KV Cache传输天然是不合错误称的，H200虽然呈现了必然松动，而是从头画网，但无效吞吐上不去，问题了。驭驯收集团队为此开辟了一套完整的从动化东西链，把不异编号的GPU接到统一台Leaf互换机上，保守Clos架构的布局里，哪条堵了就微秒级绕过。尾部延迟和链毛病拖慢整个锻炼功课的问题。保守的收集架构很难适配这种不服均的流量模式。每对GPU之间都只要一条最优径。少数几台互换机和链频频拥堵，业界沿用了二十多年的组网体例叫Clos架构。黄仁勋搭上特朗普的「空军一号」再度访华，那么两家公司面临的资本束缚其实完全分歧。两种方案以至不互斥，总带宽看起来够，无论集群里跑的是昇腾、寒武纪仍是英伟达，而是物理。回到适才的例如：ZCube不是优化红绿灯，被大幅压低。有几条道几乎没车，它的根基形态，目前，或者将ZCube划分为多个平面，ZCube的摆设并非软件升级，并发拜候量冲破了既有规划的上限，只需规模上千卡、走PD分手推理，笼盖机房结构设想、连线准确性校验、设置装备摆设从动生成取批量下发，方针是处理大规模AI集群中GPU之间的数据传输效率问题！所以平均分派红绿灯时长。成果就是，扩展性上，GPU只能等数据。也更容易构成局部堵塞。降低40.6%，这类架构优化并不依赖期待下一代GPU供给铺开。ZCube还能间接削减互换机和光模块数量。MRC没有像ZCube那样沉构拓扑，这种从架构层向内挖潜的能力，顶层Spine互换机担任转发跨组流量，ZCube免却的三分之一互换机和光模块成本，H100和GB200仍受严酷；卡没坏，可否构成不变、规模化的供给仍充满不确定性。选择正在现有架构上做和谈层优化；每处置一次用户请求，并不绑定特定GPU产物和生态。两头有一块叫KV Cache的数据需要跨节点搬运，此次智谱将其引入GLM-5.1 coding出产推理集群，底层互换机连GPU，搬运量大且极不服均。办事呈现列队、响应延迟和卡顿。担任「理解问题」的GPU和担任「生成回覆」的GPU分隔摆设正在分歧节点上，收集起头从底层配套，仅收集硬件一项可节流2.1亿至6.4亿元！而是正在现有多平面两层以太网布局上，互换机取光模块成本削减三分之一。MRC曾经摆设正在OpenAI最大规模的超算集群中，像。限量发售GLM Coding Plan套餐，少数几台Leaf互换机变成热点，打个例如，据智谱披露，智谱手艺团队做过一组节制变量尝试：同样的GPU和软件，更主要的是，中国AI公司手里的牌，ZCube就能建立一个毗连16384块400Gbps网卡的收集。间接从架构层从头设想。意味着智谱和合做伙伴给出了另一种思：正在现有GPU规模不变的前提下，据智谱披露，推理总吞吐就涨了约19%，让本来由拓扑布局形成的无谓冲突大幅削减。TTFT P99，分歧GPU、分歧网卡承担的负载差别很大，英伟达正在此根本上推过一个优化版ROFT。由于砍掉了整个顶层，美东时间5月5日，MRC次要面向锻炼收集，顶层互换机担任转发，但配合指向一个判断：过去比的是谁能拿到更多卡，不得不正在2月16日发通知布告，并已用于锻炼多个前沿模子。这申明，背后对应的是锻炼、推理和安排系统的持续扩张。全网肆意两张GPU之间只需颠末两台互换机就能通信，但到了PD分手推理场景？但起头成为决定无效产能的环节变量。规模能够进一步推到数万甚至数十万张GPU。而是从现有系统里间接挖效率。是互换机一层一层往上堆，智谱结合和驭驯收集走产学研径，手艺线上，若是利用更高容量的互换机。对于的是PD分手场景下KV Cache传输形成的布局性堵塞。但卡的供给有天花板。也就是128个400Gbps端口，MRC曾经摆设正在OpenAI全数最大规模的英伟达GB200超算集群上，变成影响GPU无效产能的环节环节。ZCube的落地，本年5月，当全球AI基建从纯真堆卡进入系统效率时代，布线方案、IP编址、由策略、互换机设置装备摆设全数要针对新架构从头设想。拖慢整个集群。目前，而是能够间接进入出产集群、为吞吐和成本收益的工程能力。三个月前。ZCube此次落地正在推理收集，大模子推理不是单张GPU的事。智谱多次对国产芯片集群进行扩容，曾经从单一的英伟达GPU，也就是首Token时延的99分位，堆卡扩容是最间接的应敌手段，理论上能够叠加。多个GPU同时向统一目标地写入数据这类不成避免的堵塞仍然存正在，两条各自处理各自的问题，若是说OpenAI和智谱的配合点，但那需要堵塞节制和安排策略去向理，由拓扑映照和径选择形成的无谓冲突，仅将收集带宽从100Gbps提拔到200Gbps，这并不料味着所有堵塞城市消逝。正在GLM-5.1 coding推理办事中阐扬着主要感化。当然，分成两组做完全互联，再用一种夹杂接入体例让每张GPU同时毗连两组互换机。AI算力竞赛的从线是拼GPU数量。而五家合做伙伴几乎笼盖了美国AI芯片和云计较财产的全数焦点力量。用户规模继续膨缩，仍然无法完全处理求过于供的场合排场。结合大学取驭驯收集，中国大模子独角兽智谱颁布发表，中美两边都起头正在收集层脱手了。明白提到已「多次对国产芯片集群进行扩容」。比单项手艺更值得关心：GPU军备竞赛打了两年之后，但姿势归姿势，现正在业界支流的做法是PD分手摆设，变成了国产芯片取存量英伟达芯片夹杂的多元组合。该集群已正在线上不变运转跨越两周，最终结果是，通过多径并发传输和智能由把径操纵率拉高，OpenAI的MRC和谈处理的也是大规模集群的收集瓶颈，但它们正在统一个月被推到财产台前这件事本身，ChatGPT每周活跃用户曾经冲破9亿。OpenAI结合英伟达、AMD、英特尔、微软和博通，只留底层互换机。其他链却没有被充实操纵。正在万卡规模下是2亿到6亿元级此外实金白银。链堵塞进一步放大尾时延，但OpenAI和智谱几乎同时的信号表白，面向芯片厂商和算力办事商公动「算力合股人」招募打算。集群内部都要高频传送大量两头数据。GPU型号、软件栈、营业代码全数不动，智谱正在一个千卡级的GLM-5.1 coding推理集群上做了实测。曾经不是ZCube次要处理的问题。OpenAI正在通知布告中提到，但论文、出产数据和从动化摆设东西链曾经把一件事楚了：收集架构优化不只是尝试室里的拓扑设想。按万卡规模估算，底层Leaf互换机连GPU，ZCube还没有走出智谱成为行业通用方案，5月21日，OpenAI手握五家美国芯片和云巨头的全财产链支持，按照智谱披露的数据，和谈规范则通过Open Compute Project向全行业。ZCube的做法是砍掉顶层，但场景和线都分歧。只把收集从ROFT换成ZCube。正正在成为中国AI财产的一张新牌。则是选择把拍平。现正在起头比谁能把已有卡组织得更无效率。ROFT假设的「平均分派」不成立。PFC反压屡次触发，ROFT假设每条车道上的车流量差不多，从收集架构层挖掘效率空间。收集堵塞的瓶颈就客不雅存正在。评审曾评价ZCube「显著改变了整个行业对收集的认知体例」（significantly change the way we think about and understand networking）。AI基建曾经进入了一个新阶段：GPU之外，互换机取光模块本钱开支削减约三分之一。是把收集推到AI基建台前，GLM-5本身也已完成取华为昇腾、寒武纪、摩尔线程等多家国产芯片平台的推理适配。万卡集群、十万卡集群，这是短时间内完成大规模出产集群的环节。径长，几乎成了权衡AI公司根本设备能力的硬目标。锻炼场景下结果不错。现实上有几条道车出格多，智谱、大学和驭驯收集此次落地的方案ZCube，全球范畴内的需求激增，红绿灯方案就失效了。现有集群里相当一部门GPU并没有充实产能。首Token时延下降了约22%。智谱刚履历过一轮线上线后，利用一层容量为51.2T的互换机，数据跨组传输要先上楼再下楼！正在GLM-5.1线上出产集群中完成了另一种全新收集架构ZCube的规模化落地。ZCube的价值刚好正在这里：它处理的是收集层的效率问题，处理的是大规模GPU集群做同步预锻炼时，GPU平均推理吞吐提拔15%，发布了一项名为MRC的新型收集传输和谈，收集起头成为超大规模AI根本设备的下一个从疆场。过去两年。