结论前置：在AI推理场景里，决定实际吞吐的往往不是标称算力峰值，而是显存带宽与互连拓扑能否把数据持续喂到计算单元。球友体育技术解读栏目在梳理公开规格书与行业白皮书后，把这两个概念拆成可核验的边界，供研发与选型阶段对照。

一、显存带宽：先算“每 token 要搬多少字节”

显存带宽的核心边界是“单位时间能搬运的数据量”，它决定了模型权重与中间激活值能否及时到位。球友体育建议先用一个简单口径估算：单次推理需要读取的权重字节数，除以目标时延，得到的就是带宽下限。

公开线索方面，厂商规格书通常给出显存类型、位宽与等效速率，三者相乘即可得到理论带宽。球友体育提醒，理论值与实测有效带宽之间存在差距，协议开销、访问模式不连续都会侵蚀可用带宽，选型时应以公开的实测方法学为参照，而不是只看峰值数字。

  • 概念边界：带宽是“搬运能力”，不是“计算能力”，两者要分开评估。
  • 公开线索：显存类型、位宽、等效速率三项可在规格书中交叉核对。
  • 常见误区：只对比算力峰值，忽略权重读取量随时延变化。

二、互连拓扑：多卡之后，瓶颈会换位置

单卡跑得动，多卡未必线性扩展，原因在于互连拓扑改变了数据流动的路径。球友体育在整理公开资料时发现，拓扑结构决定了卡间通信的跳数与聚合带宽，进而影响张量并行与流水并行的效率。

判断顺序上，球友体育建议先确认并行策略，再看拓扑是否匹配：张量并行对卡间带宽更敏感，流水并行则更看重阶段间的缓冲与调度。公开线索包括互连协议文档、拓扑示意图与厂商公布的有效通信带宽口径，这些都能在选型阶段作为对照依据。

  • 概念边界：拓扑描述“谁和谁直连”，不是单纯的卡数量。
  • 公开线索：互连协议白皮书、拓扑图、有效通信带宽口径。
  • 判断顺序：先定并行策略，再评估拓扑匹配度。

三、把两个边界放进同一张选型表

结论前置：显存带宽决定单卡能不能跑满，互连拓扑决定多卡能不能扩展，两者必须放进同一张评估表。球友体育建议按“模型权重规模—目标时延—并行策略—拓扑匹配”四步走，每一步都留下可核验的公开依据。

在能效比维度上，球友体育提醒不要把带宽与功耗割裂看：更高的带宽往往伴随更高的静态功耗，选型时应结合公开的能效比口径综合判断。对于研发团队而言，先锁定带宽下限，再验证拓扑扩展效率，比直接对比算力峰值更接近真实业务表现。

球友体育技术解读栏目会持续以结论前置的方式拆解这类技术问题，每篇都给出概念边界与公开线索，方便在方案评审时直接引用。多端查阅可通过安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端同步，方便团队在不同场景下对照资料。