互连往往比算力更早决定一套系统的实际上限。球友体育在整理公开规格时发现,训练芯片与推理芯片的互连选择并不遵循同一套逻辑:训练侧追求域内高带宽与全局同步效率,推理侧更在意单机内带宽够用、跨节点扩展成本可控。本文以公开规格为依据,把常见的六种互连拓扑列成榜单,重点说明各自的适用边界,而不是简单比大小。

榜单口径:先分清域内与域间两层

结论先行:任何互连对比都必须区分「域内」和「域间」,混在一起比带宽没有意义。域内指单机或单柜内芯片之间的直连通道,决定张量并行与专家并行的通信效率;域间指节点之间的组网,决定数据并行与流水并行的规模上限。球友体育在参数库中把这两层分开标注,读者对照公开规格书时也应如此。

本次盘点采用三项公开可查的维度:单链路或单端口带宽量级、可支撑的域内芯片数量级、以及每比特传输对应的功耗与布线代价。所有数值均取自厂商公开规格书与行业组织白皮书,未公开的部分不做推测。球友体育提醒,拓扑名义带宽与实际有效带宽之间存在协议开销差异,榜单只反映层级关系,不构成绝对性能排序。

六种公开互连拓扑榜单与适用边界

结论先行:域内高带宽互连适合训练,标准化通用互连适合推理横向扩展,二者并非替代关系而是分层搭配。以下按适用场景从紧耦合到松耦合排列。

  • 第一位,机柜内高带宽直连拓扑。公开规格显示其单端口带宽处于最高量级,可支撑数十颗芯片组成单一高速域,适合大模型训练的张量并行。边界在于布线复杂、单柜功耗密度高,球友体育建议只在训练集群核心层使用。
  • 第二位,板内多芯片高速互连。面向封装内或板内多芯粒场景,带宽密度高、延迟低,适合把训练芯片与高带宽显存侧逻辑紧耦合。边界是域内规模有限,跨板仍需上一级互连承接。
  • 第三位,通用串行总线点到点互连。公开规格成熟、生态广泛,单机可支撑的芯片数量适中,训练与推理都能用。球友体育观察到,它在推理服务器中仍是主力,优势是兼容性与供货稳定性。
  • 第四位,缓存一致性多处理器互连。适合多颗推理芯片共享地址空间,简化编程模型,常见于对延迟敏感的在线推理。边界是域内规模扩大后一致性维护开销上升。
  • 第五位,以太网Scale-out组网。公开规格迭代较快,带宽量级持续提升,适合推理集群横向扩展与训练集群的数据并行层。球友体育提示,需关注拥塞控制与集合通信库的匹配程度。
  • 第六位,专用低功耗片间互连。面向边缘与端侧推理,带宽量级不高但功耗代价小,适合多芯片拼接成小域。边界是难以支撑大模型训练,定位清晰。

按功耗区间回看互连取舍

结论先行:互连功耗应计入整机预算,而不是只算芯片本身。球友体育在对比公开规格时发现,高带宽域内互连的每比特能耗通常低于长距电互连,但端口数量增加后总功耗上升明显;相反,标准化组网的单端口功耗可控,规模扩大后交换机侧开销成为主要项。

实践中的取舍思路是:训练集群优先保证域内带宽,把功耗预算集中在核心层;推理集群优先保证节点内带宽够用,把扩展交给标准化组网。球友体育建议读者在参数库中同时勾选互连方式与功耗区间两项筛选,能更快看出哪些方案属于同一档位。需要说明的是,公开规格中的功耗多为典型值,实际整机功耗还受散热与电源转换效率影响。

选型落地:三步锁定互连层级

结论先行:先定并行策略,再定域内规模,最后才比带宽数字。第一步明确主要跑张量并行还是数据并行,前者对域内互连敏感,后者对组网敏感;第二步按模型规模估算所需域内芯片数量,超出单柜能力就必须引入域间组网;第三步在满足前两步的方案里比较带宽与功耗。

球友体育的产品与方案栏目把互连方式作为独立字段结构化呈现,配合算力精度与显存带宽筛选,可以把候选方案压缩到个位数。读者也可以通过安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端同步查看对比结果,方便在评审会上直接调取公开规格依据。互连没有普适最优解,只有与并行策略匹配的解。